Film ini mengambil latar Oklahoma pada era 1930-an, saat wilayah tersebut dilanda bencana besar Dust Bowl yang membuat ladang-ladang hancur dan badai debu terjadi hampir setiap hari. Di tengah kondisi sulit itu, Margaret Bellum tinggal di sebuah pertanian yang dulu sempat sukses bersama dua putrinya, Rose yang sudah remaja dan adiknya Ollie. Ollie sendiri menjadi tuli dan tidak bisa berbicara setelah terkena demam scarlet fever. Keluarga mereka juga masih dihantui duka karena anak bungsu Margaret, Ada, meninggal akibat penyakit tersebut.

Sejak kehilangan Ada, kondisi mental Margaret semakin rapuh. Ia sering mengalami episode berjalan sambil tidur yang cukup berbahaya, sehingga ia rutin mengonsumsi obat tidur untuk mencegahnya. Sementara itu, suaminya Henry terpaksa merantau ke Philadelphia untuk bekerja sebagai buruh konstruksi.

Henry sebenarnya ingin Margaret dan anak-anak menyusulnya, tetapi Margaret menolak karena tidak sanggup meninggalkan makam Ada. Suatu malam, Rose membacakan cerita berjudul The Grey Man untuk Ollie, kisah tentang seorang pria yang membunuh keluarganya sebelum akhirnya tewas tersapu badai debu, lalu konon bisa merasuki tubuh orang lain.

Ketegangan mulai meningkat ketika dalam pertemuan rutin kelompok menjahit, Margaret mendengar kabar bahwa seorang pengembara misterius membobol rumah tetangga, mengikat sang ayah, lalu membunuh seluruh anggota keluarga lainnya. Cerita itu membuat Margaret semakin waspada menjaga rumahnya. Ketakutannya seolah menjadi nyata ketika suatu hari seorang pria asing bernama Wallace ditemukan bersembunyi di lumbung mereka.

Wallace mengaku sebagai seorang pendeta dan mengenakan mantel milik Henry. Ia mengatakan bahwa ia bertemu Henry di lokasi kerja, dan Henry memintanya mampir untuk mengecek keadaan keluarga mereka. Ia juga mengaku hanya bersembunyi di lumbung untuk memulihkan diri setelah diterpa badai debu.

Margaret yang curiga langsung menyuruhnya pergi. Namun situasinya berubah ketika Wallace secara mengejutkan bisa menghentikan mimisan Rose yang disebabkan debu, lalu menawarkan bantuan untuk menyembuhkan sapi mereka yang sedang sakit. Perlahan Margaret luluh dan mengizinkannya tinggal sementara.

Sejak Wallace hadir, kondisi keluarga tampak membaik. Bahkan wilayah mereka akhirnya mendapat hujan yang sudah lama dinanti, sesuatu yang sebelumnya dijanjikan Wallace akan ia doakan kepada Tuhan. Namun semuanya berubah ketika akhirnya sebuah surat dari Henry sampai setelah lama tertunda akibat badai debu. Dalam surat itu, Henry tanpa sadar mengungkap bahwa Wallace sebenarnya telah mencuri mantel dan uangnya, bahkan mungkin membunuh seorang pekerja lain.

Mendengar itu, Margaret langsung mengusir Wallace dengan menodongkan senapan. Wallace kemudian membakar surat tersebut agar Margaret tidak bisa menunjukkannya pada sheriff. Sebelum pergi, ia memperingatkan bahwa ia akan kembali dan tidak bisa dihentikan karena dirinya adalah The Grey Man.

Sejak saat itu Margaret benar-benar percaya ancaman tersebut. Rose mencoba meyakinkan bahwa Wallace hanya mengutip cerita yang ia pinjam darinya untuk menakut-nakuti mereka. Namun Margaret semakin paranoid. Ia memindahkan seluruh keluarga ke satu ruangan, menutup rapat rumah, dan hampir tidak pernah keluar lagi. Ia juga berhenti minum obat tidur agar bisa terus berjaga, yang justru membuatnya mulai berhalusinasi dan kembali berjalan saat tidur.

Meskipun rumah sudah dikunci rapat, kejadian-kejadian aneh mulai terjadi. Suatu malam tempat tidur anak-anak tiba-tiba terbakar, dan berbagai benda di rumah berpindah sendiri padahal semua pintu terkunci. Paranoia Margaret semakin parah, apalagi ketika gosip di kelompok menjahit menyebut bahwa mungkin tidak ada pembunuh pengembara sama sekali dan pelakunya justru mungkin kepala keluarga mereka sendiri.

Melihat kondisi Margaret yang makin tidak stabil, saudara perempuannya Esther menyarankan agar ia sesekali keluar rumah. Margaret akhirnya membawa anak-anaknya ke sebuah acara dansa lokal. Ia juga khawatir jika dianggap tidak waras, anak-anaknya akan diambil oleh pihak berwenang seperti yang pernah terjadi pada Ada. Namun di acara tersebut, Margaret justru mengalami breakdown di depan banyak orang. Ia berteriak bahwa Wallace adalah makhluk supranatural yang menyerang keluarganya dan memperingatkan semua orang tentang The Grey Man.

Rose akhirnya membawa ibunya pulang. Di rumah, Margaret mengalami halusinasi bahwa Wallace datang menyerang. Ia menembak sosok yang ia lihat, dan hampir saja mengenai Rose yang berusaha menyadarkannya. Belakangan terungkap bahwa orang yang ditembak Margaret bukan Wallace, melainkan Esther yang datang untuk mengecek keadaan mereka.

Rose mencoba melarikan diri bersama Ollie, tetapi badai debu besar sedang datang sehingga mereka terjebak di rumah. Saat badai mulai menerjang, sheriff tiba karena sebelumnya merasa khawatir dengan kondisi Margaret sejak kejadian di acara dansa. Rose dengan berat hati mengakui bahwa ibunya sudah tidak layak mengurus mereka. Namun Margaret yang sudah kehilangan kewarasan justru menikam sheriff hingga tewas agar ia tidak membawa anak-anaknya pergi.

Margaret kemudian mengatakan kepada Rose bahwa karena ia pasti akan dihukum mati atas pembunuhan tersebut, mereka sebaiknya bunuh diri bersama agar bisa tetap bersama selamanya dan bergabung dengan Ada. Rose yang tidak sanggup membunuh ibunya akhirnya menggunakan cara lain. Ia menipu Margaret agar keluar ke tengah badai debu, lalu dengan air mata ia memotong tali pengaman yang mengikat mereka, membiarkan ibunya tersapu badai.

Setelah tragedi tersebut, Rose dan Ollie akhirnya pergi ke Philadelphia untuk menyusul ayah mereka dan memulai hidup baru jauh dari bayang-bayang masa lalu.

Penulis: Della Deswita Maharani