Berlatar di pulau fiktif Yunani bernama Kalokairi (yang berarti 'musim panas'), calon pengantin Sophie Sheridan bikin pengakuan mengejutkan ke para bridesmaid-nya. Diam-diam, Sophie mengundang tiga pria ke pernikahannya tanpa sepengetahuan sang ibu, Donna. Mereka adalah Sam Carmichael (arsitek berdarah Irlandia-Amerika), Bill Anderson (penulis travel asal Swedia), dan Harry Bright (bankir asal Inggris).

Masalahnya, Sophie yakin salah satu dari tiga pria itu adalah ayah kandungnya, meski ia sendiri belum tahu siapa. Sophie berharap, dengan menghabiskan waktu bersama mereka, ia bisa menemukan kebenaran dan meminta ayahnya mengantarnya di hari pernikahan.

Saat ketiganya tiba di Kalokairi, Sophie mengaku bahwa undangan pernikahan itu dikirim olehnya, bukan Donna. Namun, ia belum berani mengatakan alasan sebenarnya. Sophie menyembunyikan mereka di rumah kambing milik Donna, dan ketiganya setuju merahasiakan kehadiran mereka sebagai kejutan.

Tanpa sengaja, Donna memergoki mereka saat sedang bekerja di rumah kambing. Shock berat, Donna langsung sadar bahwa ketiganya adalah mantan kekasihnya di masa lalu dan meminta mereka pergi. Donna lalu curhat ke dua sahabat lamanya, Tanya dan Rosie, yang juga datang untuk pernikahan, bahwa ia sendiri benar-benar tidak tahu siapa ayah biologis Sophie.

Sophie kemudian bertemu para pria itu di atas kapal layar milik Bill. Mereka berlayar mengelilingi Kalokairi sambil berbagi cerita tentang masa muda Donna yang bebas dan penuh petualangan. Kedekatan pun terjalin. Sophie sempat ingin jujur pada tunangannya, Sky, soal rencananya ini, tapi nyalinya ciut di detik terakhir.

Di pesta lajang Sophie, Donna makin tertekan dengan kehadiran tiga pria tersebut. Namun Tanya dan Rosie mencoba menenangkan Donna dan berjanji akan 'mengurus' situasi. Di sisi lain, Sophie meluangkan waktu berbicara secara pribadi dengan masing-masing pria, berharap hatinya bisa membimbing pada jawaban yang ia cari.