Dichter en romanschrijver Leonard Cohen reist naar het Griekse eiland Hydra om zijn roman te herschrijven. Na enige tijd op het eiland vindt hij de liefde van zijn leven Marianne. Deze Noorse Marianne Ihlen wordt zijn levenslange muze met wie hij in een tijd van vrije liefde een intense relatie begint. Met haar aanmoediging zingt hij zijn poëzie - en wordt de zanger die we allemaal kennen.

Het vervolg op de eerste film toont zowel de gebeurtenissen die erop volgen als de gebeurtenissen die aan het hotel op het Grieks eiland voorafgingen. In het verleden ontmoeten we een jongere Donna die volop van het leven geniet. We volgen haar romantische escapades wanneer ze het pad kruist van Sam, Harry en Bill. Na een tijd blijken de romances niet enkel rozengeur en maneschijn te zijn. In het heden worstelt een zwangere Sophie met de afwezigheid van haar moeder.

Donna heeft voor het huwelijk van haar dochter Sophie 2 hartsvriendinnen uitgenodigd. Sophie heeft drie mannen uitgenodigd. In 24 magische uren bloeit er liefde op en vatten oude romances opnieuw vlam.

Toula's vader Gus is overleden. Zijn laatste wens is dat de familie het dorp bezoekt waar hij is opgegroeid en de neven, nichten en vrienden ontmoet die hij achterliet. Terwijl Toula en Ian op zoek gaan kennissen van Gus voor een grote reünie, bloeit de liefde op tussen hun dochter Paris en de knappe Aristoteles, die ze oorspronkelijk niet zag zitten.