Otto Gebühr wurde am 29. Mai 1877 in Kettwig (Ruhr) geboren. Nach dem frühen Tod seines Vaters, eines Kaufmanns, zog Gebühr mit seinem Bruder und der Mutter nach Köln. Dort arbeitete die Mutter zunächst als Näherin und führte später eine Pension für Schülerinnen des Musikkonservatoriums.

Nach seinem Gymnasialabschluss absolvierte Otto Gebühr von 1894 bis 1896 eine kaufmännische Lehre bei einer Kölner Wollgroßhandlung – vor allem auf Wunsch seiner Mutter, da seine eigentliche Leidenschaft der Schauspielerei galt. Anschließend war er kurzzeitig als Fremdsprachenkorrespondent in Berlin tätig. Zur gleichen Zeit nahm er ein halbes Jahr lang Schauspielunterricht und sammelte als Wanderschauspieler erste Bühnenerfahrungen.

Im Winter 1897/98 erhielt Gebühr ein viermonatiges Engagement am Stadttheater Görlitz. Danach war er von 1898 bis 1908 Ensemblemitglied des Königlichen Hoftheaters Dresden; dort stand er zuletzt auch als Sänger und Lautenspieler auf der Bühne. Mit einem Repertoire aus Liedern von Schubert und Brahms ging er zeitweise sogar auf Tournee.

Nachdem er das Dresdner Hoftheater verlassen hatte, ging Gebühr im Jahr 1909 für vier Monate nach New York, wo er im Irving-Palace-Theatre auftrat. Noch im gleichen Jahr berief ihn das Berliner Lessingtheater in sein Ensemble; 1912 wechselte er ins Theater in der Königgrätzer Straße (bis 1914). Von 1914 bis 1917 nahm Gebühr als Freiwilliger am Ersten Weltkrieg teil, in dessen Verlauf er bis zum Leutnant aufstieg. Nach seiner Heimkehr bekam er ein Engagement am Deutschen Theater Berlin (bis 1919), wo er unter anderem in "Der Kaufmann von Venedig" (Regie: Max Reinhardt) auf der Bühne stand.

Parallel dazu begann Gebührs Arbeit beim Film. Sein Debüt gab er 1917 in der Oskar-Messter-Produktion "Der Richter" als heruntergekommener Verführer, eine Darstellung, die ihm einiges an Kritikerlob einbrachte. 1919 drehte er drei Filme mit Max Mack: "Der Flimmerprinz", "Sündiges Blut" und "Verrat und Sühne". Im gleichen Jahr besetzte ihn Carl Boese in "Die Tänzerin Barberina" als König Friedrich II. – eine Rolle, für die Gebühr durch seine große Ähnlichkeit mit dem Regenten prädestiniert war. Den Part des Friedrich II. spielte er im Lauf seiner Karriere dann auch immer wieder, etwa in der vierteiligen Chronik "Fridericus Rex" (1920-23), bestehend aus "Sturm und Drang" (1922), "Vater und Sohn" (1922), "Sanssouci" (1923) und "Schicksalswende" (1923). Später dann in "Die Mühle von Sanssouci" (1926), in dem Zweiteiler "Der alte Fritz" (1928), in "Das Flötenkonzert von Sanssouci" (1930) und in "Die Tänzerin von Sans Souci" (1932). Auch während der Nazizeit schlüpfte er mehrfach in die Friedrich-Rolle: In "Der Choral von Leuthen" (1933), "Der alte Fritz" (1937), "Das schöne Fräulein Schragg" (1937) und in "Der große König" (1942, Regie: Veit Harlan). Den letzteren Produktionen kommt vor allem unter politisch-propagandistischen Gesichtspunkten Bedeutung zu, sollten sie doch Deutschnationales fördern und während des Krieges den Durchhaltewillen der Bevölkerung stärken.

Aber auch anderen historischen Rollen gab er Fridericus-Züge, etwa seinem Feldmarschall Blücher in "Waterloo" (1929) und sogar seinem König von Sachsen in "Bismarck" (1940, Regie: Wolfgang Liebeneiner). Daneben verkörperte Gebühr wiederholt Seefahrer, etwa in "Schiffe und Menschen" (1920), "Neuland" (1924), "In Treue stark" (1926) und "Scapa Flow" (1930).

Waren Gebührs historische Rollen und seine Seefahrer meist recht eindimensional-romantisierend angelegt, konnte er in anderen Filmen mehrschichtige Charaktere entwickeln. So etwa in der Titelrolle der Balzac-Adaption "Gobseck" (1923) oder in der Doppelrolle als Schneider und Fürst in dem Gesellschaftsstück "Die Perücke" (1924). Vor allem in seinen Tonfilmen durfte Gebühr verstärkt auch sein komödiantisches Talent unter Beweis stellen, zum Beispiel in Nebenrollen als Prilop in "Casanova heiratet" (1939) und als Dorfschullehrer in "Viel Lärm um Nixi" (1941).

Beim Nazi-Regime war Otto Gebühr stets wohlgelitten. 1938 erhielt er den Titel "Staatsschauspieler"; 1944 setzte Joseph Goebbels ihn auf die "Gottbegnadeten-Liste" der "unverzichtbaren Künstler". Neben seinen propagandistisch bedeutsamen Fridericus-Darstellungen trat er gegen Ende des NS-Regimes häufig auch in leichten Unterhaltungsfilmen auf (z.B. "Immensee", 1943, oder "Die goldene Spinne", 1943), die die Bevölkerung von den Schrecken des Krieges ablenken sollten. Sein letzter NS-Film, "Der Erbförster", feierte seine Premiere kurz vor der deutschen Kapitulation im April 1945.

Nach Kriegsende wurde Otto Gebühr von den Alliierten mit einem Auftrittsverbot belegt; einige seiner Filme durften nicht mehr gezeigt werden. Nach seiner Entnazifizierung kehrte er 1947 an der Seite von Lil Dagover ans Theater zurück, mit einer Hauptrolle in "Der Kirschgarten" an der Berliner Komödie.

Dem Kino wendete Gebühr sich erst mit Beginn der 1950er Jahre wieder regelmäßig zu. Man sah ihn vorwiegend in Heimatfilmen, Krimis und Schmonzetten, meist in Chargenrollen als kauzigen Gesellen oder amüsant-exzentrischen Würdenträger. Der umstrittene Regisseur Veit Harlan, mit dem Gebühr schon unter den Nazis gedreht hatte, besetzte ihn in einer Nebenrolle seines ersten Nachkriegsfilms "Unsterbliche Geliebte" (1951). In den nächsten Jahren arbeiteten die beiden noch vier Mal zusammen, etwa bei der Ehekomödie "Die blaue Stunde" (1953). Aber auch sonst war Gebühr sehr gefragt. Zwischen 1950 und 1954 spielte er in nahezu 30 Produktionen mit, darunter Klassiker wie "Grün ist die Heide" (1951), "Sauerbruch – Das war mein Leben" (1954) und "Rosen-Resli" (1954).

Noch vor Abschluss der Dreharbeiten zu "Rosen-Resli" starb Otto Gebühr am 13. März 1954 in Wiesbaden an einem Herzinfarkt. Bis 1950 war er in zweiter Ehe mit der Schauspielerin Doris Krüger verheiratet; seine Tochter aus erster Ehe, Hilde Gebühr (1910-1945), arbeitete kurzzeitig ebenfalls als Schauspielerin.