Karl-Heinz Knaup wurde am 23. Mai 1950 in Sonthofen geboren; er ist der jüngere Bruder der Sängerin Renate Knaup sowie der ältere Bruder des Schauspielers Herbert Knaup. Von 1972 bis 1975 absolvierte er eine Schauspielausbildung am Zinner Studio in München. Es folgten diverse Theaterengagements, bevor Knaup 1981 mit einer kleinen Rolle in der TV-Produktion "Jaipur Junction" sein Debüt vor der Kamera gab. 

Doch erst ab Ende der 1980er Jahre wirkte Knaup in weiteren Kinoproduktionen mit, so etwa in Nebenrollen von Christian Wagners "Wallers letzter Gang" (1988) und Jo Baiers "Wildfeuer" (1991), beide Male in einer Rolle als Fotograf. Vor allem aber sah man Knaup seitdem in größeren und kleineren TV-Rollen. An der Seite von Christopher Reeve und Donald Pleasance gehörte er 1988 zum großen Ensemble der US-Produktion "The Great Escape II: The Untold Story" ("Gesprengte Ketten – Die Rache der Gefangenen"), in dem preisgekrönten Krminaldrama "Der Pakt - Wenn Kinder töten" (1995) mit Daniel Brühl war er der ermittelnde Kommissar.

1997 hatte Knaup in der 13-teiligen Serie "Die Feuerengel" eine feste Rolle als Brandoberamtsrat. In der sechsteiligen Serie "Zwei Männer am Herd" (1999) spielte er ebenfalls eine durchgehende Rolle.

Häufig wurde Knaup im Lauf der Jahre als akademische Autoritätsperson oder Würdenträger besetzt: in der Hamburger "Tatort"-Episode "Der schwarze Skorpion" (2000) war er der Berufskollege eines ermordeten Professors; in "Der Ärgermacher - Wer hat Angst vor Jochen A." (2002) und der Filmbiografie "Margarete Steiff" (2005) spielte er Ärzte; in dem Katastrophenfilm "Tsunami" (2004) gab er einen Justiziar, in einer Episode von "Die Familienanwältin" einen Verteidiger und in dem Kinofilm "Meine schöne Nachbarin" (2007) einen Künstlerischen Direktor. In der "Tatort"-Folge "Der Tod ist unser ganzes Leben" (2016) spielte er einen Kriminaloberrat, in dem Krimi "Das Tal der Mörder" (2018) einen Bürgermeister.

Vor allem aber übernahm Knaup diverse Episodenrollen in zahlreichen Serien, zum Beispiel "Polizeiruf 110", "Der Alte", "SOKO München" und "Die Rosenheim-Cops" – um nur ein paar wenige zu nennen. Daneben stand er bis 2006 regelmäßig in Theaterinszenierungen auf der Bühne, unter anderem bei den Festspielen Bad Hersfeld, an den Westfälischen Kammerspielen und der Komödie am Ku' Damm.

Auf der Kinoleinwand sah man Karl-Heinz Knaup nur vereinzelt: In dem Fantasyfilm "Saphirblau" (2013) gab er einen Großmeister der Magie, in dem preisgekrönten Thriller "Trash Detective" (2015) den Vater eines mutmaßlichen Mordopfers. Kleinere Parts hatte er in dem modernen Heimatfilm "A Gschicht über d'Lieb" (2018) und der schrillen Komödie "JGA - Jasmin. Gina. Anna." (2022). Eine Hauptrolle hatte er in "Ein stummer Hund will ich nicht sein", einem Dokumentarfilm mit Spielhandlung über den Priester Korbinian Aigner, der 1941 von den Nazis in Dachau inhaftiert wurde.; in den Spielszenen verkörperte Knaup Aigner. Der Film startete im April 2025 in den Kinos.