Apabila [[Perang Dunia Kedua]] meletus, diabeliau memimpin (Pasukan Udara Ke-3) ''[[Luftflotte 3]]'' (Armada Udara Ke-3) Jerman. Unit ini tidak terbabit semasa kempen Poland, tetapi digunakan dari Maybulan Mei seterusnya di [[Perancis]], memainkan peranan penting sebagai unit sokongan pengebomanpengebom taktikal. Pada Julai 1940, diabeliau dilantik sebagai ''[[Fil Marsyal|Generalfeldmarschall]]'' bagi Luftwaffe semasa di [[Majlis Fil Marsyal 1940]]. PasukanArmada Udara Ke-3, ditempatkan di uratautara Perancis, memainkan peranan penting dalam [[Pertempuran Britain]], dari Jun 1940 hingga Oktober 1940 dan [[The Blitz]], darihingga MayMei 1941. Pada September Sperrle terbabit dalam perdebatan hangat dengan komander Luftwaffe yang lain, terutamanya dengan PemerintahPanglima Tertingginya [[Hermann GöringGoering]], menyokong penerusan serangan terhadap lapangan terbang British dan Pasukan[[Tentera Udara Diraja]] bagi memastikan kejayaan penjajahanpencerobohan Britain. Bagaimanapun, Göring memerintahmengarah perubahan pada strategi Luftwaffe, bertukar bagi menyerang bandar British (yang memiliki kesan tidak sengaja bagi meringankan tekanan Jerman terhadap RAF). Pasukannya terus mengebom Britain sehingga musim gugur tahun 1941.<ref name=w45/>
DiaBeliau kekal bersama unitnya di Perancis bagi 3 tahun berikutnya, dinggalhidup dengan mewah di [[Istana Luxembourg]]. Peranan utamanya dalam perang, bagaimanapun telah tamat. Dia menyokong [[Erwin Rommel]] semasa [[Kempen Afrika Utara]] dan akhirnya mengambil alih pemerintahan pasukan udara Jerman di [[Eropah Timur]] pada tahun 1944, sejurus bebelum pendaratan Berikat di Eropah Barat. Pasukannya terjejas teruk akibat kekurangan kapal terbang, krew berpengalaman, dan bahan api yang teruk. Sungguhpun pada awalnya penyokong Nazi, dia semakin kecewa dengan usaha perang Jerman. Semasa pendaratan Normandy dia hanya memiliki 319 kapal terbang yang beroperasi yang tinggal bagi menentang armada pihak Berikat lebih dari 9,000 kapal terbang. Akibat ketidakupayaannya unitnya bagi menghalang pendaratan pasukan Berikat, dia disingkirkan sebagai komander pada Ogos 1944.<ref name=w46>Williamson (2006), p. 46</ref>
Field Marshal Sperrle ditawan oleh Berikat dan dituduh dengan tuduhan jenayah perang dalam Perbicaraan Pemerintah Tertinggi dalam Perbicaraan Nuremberg Berikutnya tetapi dibebaskan. Selepas perang, dia tinggal secara diam-diam dan meninggal di [[Munich]] pada tahun 1953.<ref name=w46/>
