Alfred Franz Adolf Ehrhardt wurde am 5. März 1901 in Triptis geboren. Er absolvierte das Realgymnasium in Gera und studierte Musik mit Fachgebiet Orgel am Seminar Weißenfels; in den 1920er Jahren trat er als Organist in Norddeutschland auf, schlug hauptberuflich aber zunächst eine Karriere als Lehrer ein: Von 1924 bis 1930 unterrichtete er Kunst, Musik, Gymnastik und Leichtathletik am Landerziehungsheim Gandersheim des Reformpädagogen Max Bondy; bei seinem Gymnastik-Unterricht legte Erhardt den Schwerpunkt auf das Künstlerisch-Tänzerische. Daneben fertigte er 1926/27 Malereien in der Krypta der Klosterkirche Lamspringe an, die in der Zeit des Nationalsozialismus übermalt wurden (von 2007 bis 2010 erfolgte eine dreijährige Restaurierung).

1928/29 ließ Ehrhardt sich vom Schuldienst beurlauben und studierte am Dessauer Bauhaus, wo Josef Albers, Paul Klee, Lyonel Feiniger und Oskar Schlemmer zu seinen Lehrmeistern gehörten; zu Wassily Kandinsky entwickelte er eine persönliche Freundschaft. Nach seiner Rückkehr an das Landschulheim Gandersheim übertrug er das Konzept von Josef Albers' Bauhaus-Vorkurs auf seinen eigenen Kunstunterricht. Vor allem aufgrund dieser Umsetzung wurde er 1930 als Dozent an die Landeskunstschule Hamburg berufen, da diese im Sinne des Bauhauses reformiert werden sollte.

1931 fand im Hamburger Kunstverein eine Einzelausstellung mit Gemälden, Zeichnungen und Drucken Ehrhardts statt. Im folgenden Jahr erschien sein Buch "Gestaltungslehre. Die Praxis eines zeitgemässen Kunst- und Werkunterrichts". Allerdings verlor er 1933 nach der Machtübernahme Hitlers seine Anstellung, da die Nazis seine Bauhaus-Nähe als "kulturbolschewistisch" einstuften. In der Folgezeit unternahm Ehrhardt erste Foto-Exkursionen, arbeitete bis 1936 als Organist und Chorleiter in Cuxhaven und lehrte im Wintersemester 1934/1935 an der Volkshochschule Askov in Süderjütland (Dänemark).

In seinen Fotoarbeiten komponierte Ehrhardt häufig abstrakte Bilder, zum Beispiel in einer umfangreichen Serie, die von Wind und Meer geformte Sandstrukturen zeigte – diese Serie begründete sein Renommee als Avantgarde-Fotograf und wurde in zahlreichen Ausstellungen gezeigt, zunächst in Hamburg, später auch in London, Paris, Stockholm und Kopenhagen.

Sein Debüt als Filmemacher gab Ehrhardt 1937 mit dem Kurz-Dokumentarfilm "Urkräfte am Werk", über das Wattenmeer. In den nächsten Jahren drehte er im Auftrag staatlicher Stellen Filme über Flandern ("Flanderns germanisches Gesicht", "Leinen aus Kortryk", beide 1941), Böhmen und Mähren.

Nachdem während des Zweiten Weltkriegs im Jahr 1942 sein Hamburger Haus durch Bomben zerstört wurde, durfte er mit seiner Familie fünf Jahre lang im Spessarter Landhaus eines Frankfurter Brauereieigentümers wohnen. Während dieser Zeit fotografierte Ehrhardt die Frankfurter Altstadt vor der Zerstörung durch alliierte Bombenangriffe; die Bilder wurden 1950 im Bildband "Alt-Frankfurt" veröffentlicht.

Nach dem Kriegsende und der Befreiung Deutschlands gründete Ehrhardt im Jahr 1948 die Produktionsfirma Alfred-Ehrhardt-Film. Sein erster selbst produzierter Kurz-Dokumentarfilm "Der große Brüggemann-Altar" (1948) lief auf der Biennale in Venedig, wo Ehrhardt zwei Jahre später für das Künstlerporträt "Ernst Barlach. I.: Der Kämpfer" den 1. Preis und für "Inselfahrt" eine Lobende Erwähnung erhielt. Aber auch als Fotograf blieb er aktiv: 1952 fotografierte er für eine Veröffentlichung der Hamburger Handelskammer Betriebe wie Montblanc, Sanella, Steinway & Sons, Carl Kühne und das Ottenser Eisenwerk.

Alfred Ehrhardts Hauptbetätigungsfeld blieb gleichwohl der Film. Drei Mal wurde er mit dem Deutschen Filmpreis in der Sparte Kulturfilm ausgezeichnet: 1951 für "Ernst Barlach. I.: Der Kämpfer", 1952 für "Spiel der Spiralen" und 1953 für "Portugal - unbekanntes Land am Meer". Bis 1974 realisierte er noch zahlreiche weitere Kurz-Dokumentarfilme, häufig zu Natur- und Kulturthemen, zum Beispiel "Tabak" (1956), "Mythos Pferd" (1957), "Tanz der Muscheln" (1959), "Portwein" (1962), "Vulkanisches Antlitz" (1962) und "Masken und Figuren - Schwarzafrikas kostbares Gut" (1974) – sein letzter Film.

Am 29. Mai 1984 starb Alfred Ehrhardt in Hamburg. Sein Sohn Jens Ehrhardt gründete 2002 die Alfred Ehrhardt Stiftung.