Karl Baumgartner wurde 1949 in Bruneck, Südtirol, geboren. Im Alter von 18 Jahren ging er nach Rom, arbeitete als Filmkritiker und sammelte als Regieassistent erste praktische Erfahrungen im Filmgeschäft. 1971 zog er nach Frankfurt am Main, wo er sich den Filmemachern rund um das Kollektiv "Harmonie" anschloss, zu dem nicht zuletzt das gleichnamige, heute legendäre Frankfurter Programmkino gehörte. Im Lauf der 1970er Jahre avancierte die "Harmonie" zu einem der wichtigsten und deutschlandweit prägendsten Foren für den internationalen Arthouse-Film.

1982 gründete Baumgartner gemeinsam mit Reinhard Brundig die Filmverleihfirma Pandora Film, deren Name dem Film "Die Büchse der Pandora" von G.W. Pabst entlehnt war. Die Firma stieg bald zu einem der bedeutendsten europäischen Verleiher und Vermittler des Weltkinos auf: Filmemacher wie Jim Jarmusch, Sally Potter, Aki Kaurismäki und Kim Ki-duk wurden zu Beginn ihrer Karrieren von Pandora "entdeckt" und über Deutschland hinaus berühmt gemacht. Mit Filmen wie Jane Campions "The Piano" ("Das Piano", 1993) feierte Pandora große kommerzielle Erfolge. Mitte der 1990er Jahre begann Baumgartner, sich auch als  Filmproduzent zu betätigen, nachdem die Pandora bereits in den Jahren zuvor zunehmend auch Produktionsaufgaben übernommen und viele Projekte bereits in der Entstehungsphase erworben hatte. Emir Kusturicas "Underground" (1995) war die erste Koproduktion der Firma.

1996 wurde der Produktionsarm nach Köln verlegt, zwei Jahre später wurde der Verleih in Frankfurt geschlossen und der umfangreiche Rechtekatalog an die Firma Kinowelt verkauft. In den folgenden Jahren lag der Schwerpunkt der Pandora Film ganz auf Produktion und Koproduktion. Darüber hinaus gründete Baumgartner 1997 zusammen mit Ernst Szebedits die Pegasos Filmverleih & Produktion, die sich vor allem um kleinere und exotischere Filme kümmern sollte. 2002 wurde die Verleihtätigkeit der Pandora mit dem Kaurismäki-Film "Der Mann ohne Vergangenheit" (FI/D/F) und Niki Caros "Whale Rider" (NZ/D) wieder aufgenommen. 2003 gründete der umtriebige Baumgartner gemeinsam mit Thanassis Karathanos die Produktionsfirma Pallas Film, die sich auf die Herstellung osteuropäischer Filme spezialisierte.

Zu Baumgartners bekanntesten Produktionen und Co-Produktionen gehören vielfach preisgekrönte Filme wie Emir Kusturicas Burleske "Schwarze Katze, weisser Kater" (F/D 1998), Sandra Nettelbecks Liebesgeschichte "Bella Martha" (2001), Kim Ki-duks Melodram "Frühling, Sommer. Herbst, Winter...und Frühling" (KR/D 2003), Sam Garbarskis Sozialkomödie "Irina Palm" (B/D/LU/GB/F 2007), die Tragikomödie "Tulpan" (D/CH/KZ/PL/RU 2008), der politische Animationsfilm "Alois Nebel" (CZ/D 2011) und Léos Carax' hoch gelobtes Filmpoem "Holy Motors" (F/D 2012).

Im Lauf seiner Karriere erhielt Karl Baumgartner mehrere Auszeichnungen: 2003 den Preis der Kunst und Kulturstiftung der Sparkasse Bremen für seine Verdienste um den Europäischen Film, 2004 den Raimondo Rezzonico Preis des Internationalen Filmfestivals von Locarno. Im Februar 2014 wurde er mit der Berlinale Kamera der 64. Internationalen Filmfestspiele Berlin geehrt. Nur wenige Wochen später, am 18. März 2014, verstarb Karl Baumgartner im Alter von nur 65 Jahren in Frankfurt am Main.