Friedrich Wilhelm Walther Ruttmann wurde am 28. Dezember 1887 in Frankfurt am Main als Sohn einer wohlhabenden Kaufmannsfamilie geboren. 1907 begann er ein Architekturstudium in Zürich, ging aber 1909 nach München (später nach Marburg), wo er Malerei studierte. Er erzielte erste Erfolge als Maler und Plakatmaler und konnte von dieser Tätigkeit sehr gut leben. 1913 leistete er Militärdienst und wurde im August 1914 in den Ersten Weltkrieg abkommandiert, wo er als Artillerie-Leutnant und Gasschutz-Offizier an der Ostfront stationiert war. Bei seiner Heimkehr im Jahr 1917 hatte er sich zu einem entschiedenen Kriegsgegner gewandelt. 

Ruttmann wendete sich wieder der Malerei zu, die er aufgrund ihrer "Statik" jedoch zunehmend als begrenzend empfand. Als Konsequenz begann er, sich mit dem Bewegtbild, sprich: Film als künstlerischem Medium zu befassen. 1919 gründete er bei München eine eigene Filmfirma. An einem von ihm selbst konstruierten und patentierten Tricktisch realisierte er von 1919 bis 1921 den zehnminütigen Experimental-Trickfilm "Lichtspiel Opus I". Bestehend aus mehr als 10.000 einzeln eingefärbten Bildern (häufig Wellenmotive) war es der erste vollständige Trickfilm in Deutschland. Bis 1925 schuf Ruttmann drei weitere experimentelle Kurzfilme: "Lichtspiel Opus II", "Ruttmann Opus III" und "Ruttmann Opus IV", mit denen er zu einem der bedeutendsten Vertreter der Avantgarde-Filmemacher der 1920er Jahre avancierte.

Daneben drehte er abstrakte Reklamefilme für Julius Pinschewer und realisierte für Lotte Reinigers legendären Scherenschnitt-Animationsfilm "Die Geschichte des Prinzen Achmed" (1923–26) die bewegten Hintergründe und die Zauberszenen. Reiniger wiederum machte ihn mit Fritz Lang bekannt, für dessen Klassiker "Die Nibelungen" (1924) er die Tricksequenz "Falkentraum" erarbeitete.

In die Filmgeschichte ging Ruttmann jedoch vor allem mit dem experimentellen Dokumentarfilm "Berlin. Die Sinfonie der Großstadt" (1927) ein. In dem 65-minütigen, nach einer musikalischen Struktur "komponierten" Film zeigte er einen Frühlingstag in Berlin, vom Morgengrauen bis in die tiefe Nacht. Mit geschickt montierten Aufnahmen von fahrenden Zügen, Maschinen, arbeitsamen Büros, dichtem Verkehr, Sport und einem emsigen Nachtleben erzeugte er einen rauschhaften Bilderreigen. Ruttmann selbst schrieb später: "Während der langen Jahre meiner Bewegungsgestaltung aus abstrakten Mitteln ließ mich die Sehnsucht nicht los, aus lebendigem Material zu bauen, aus den millionenfachen, tatsächlich vorhandenen Bewegungsenergien des Großstadtorganismus eine Film-Sinfonie zu schaffen". Die zeitgenössische Kritik war jedoch gespalten: Während manche in Ruttmanns "Sinfonie" ein bahnbrechendes Filmereignis sahen, kritisierte Siegfried Kracauer ihn als oberflächlich und formalistisch. 

1928 realisierte er den frühen Tonfilm "Deutscher Rundfunk", der am 31. August 1928 zur Eröffnung der 5. Großen Deutschen Funkausstellung in Berlin uraufgeführt wurde. Im Jahr darauf drehte Ruttmann "Melodie der Welt" (1929), einen "symphonischen Dokumentarfilm" für die Hamburger Reederei HAPAG, der als erster abendfüllender Tonfilm aus deutscher Produktion gilt. Hier verwendete Ruttmann (zum großen Teil nicht von ihm selbst gedrehtes) Filmmaterial aus aller Welt, inszenierte einige Szenen im Studio nach, und montierte kontrapunktisch Originalton und Begleitmusik dazu. Der fertige Film war keine Reisereportage, sondern eine Reihung von Motivgruppen über Themenkomplexe wie Architektur, Verkehr, Religion, Krieg und Arbeit. Zudem leistete er mit seiner Tonmontage "Weekend" (1930) einen bedeutenden Beitrag zur Entwicklung des Hörspiels.

Mit der deutsch-schweizerischen Produktion "Feind im Blut" (1931) drehte er einen avantgardistischen Aufklärungsspielfilm zum Thema Syphilis, den die damalige Kritik als künstlerisches Meisterwerk feierte. 1932/33 realisierte Ruttmann in Italien, hauptsächlich mit Laienschauspielern, den Spielfilm "Acciaio", eine Liebes- und Eifersuchtsgeschichte um zwei Stahlarbeiter.

Nach der Machtübernahme Hitlers 1933 arrangierte Walter Ruttmann sich mit den politischen Verhältnissen der NS-Diktatur. Er wirkte an dem halbstündigen Propagandafilm "Blut und Boden. Grundlagen zum Neuen Reich" (1933) mit und drehte 1934 für Leni Riefenstahls NS-Parteitagsfilm "Triumph des Willens" eine später nicht verwendete Rahmenhandlung.

In den nächsten Jahren arbeitete er als Regisseur bei der Ufa, für die er Kulturfilme wie "Stadt Stuttgart. 100. Cannstatter Volksfest" (1935) und "Hinter den Zahlen. Ein Ufa-Kulturfilm vom Wesen der Bank" (1939) drehte. Stets versuchte er dabei, auch seine künstlerischen Ansprüche zu verfolgen und die Auftragsarbeiten in einer rhythmisch-abstrakten Formensprache umzusetzen. Manche seiner Industriefilme, darunter "Metall des Himmels" (1935) und "Mannesmann" (1937), liefen auf internationalen Festivals und wurden teilweise preisgekrönt.

Zu Beginn des Zweiten Weltkriegs drehte Ruttmann allerdings auch die Propagandafilme "Deutsche Waffenschmieden" und "Deutsche Panzer" (beide 1940). Seine letzten Arbeiten waren die kurzen Aufklärungsfilme "Aberglaube" (1940) und "Ein Film gegen die Volkskrankheit Krebs" (1941).

Am 15. Juli 1941 starb Walter Ruttmann in Berlin an den Folgen einer Embolie.