Seine Frau Gilda war es auch, die Heinz Erhardt 1938 dazu ermutigte, sein Glück erneut in Deutschland zu versuchen. Und diesmal hatte er im Berliner Kabarett der Komiker als "lustiger Dichter-Komponist am Flügel" und "singendes Schnellsprech-Phänomen" Erfolg.
Es war der Beginn einer langen Karriere, die aber erst einmal durch den Zweiten Weltkrieg unterbrochen wurde. Der Nichtschwimmer und Brillenträger Erhardt wurde zur Marine eingezogen und tingelte als "Stimmungskanone" in der Truppenbetreuung durch die Kriegsjahre.

Das Kriegsende erlebte er auf einer Schreibstube der Marineverwaltung in Kiel. Nach einem halben Jahr in Gefangenschaft bei den englischen Truppen kam er frei und ließ sich mit seiner Familie in Hamburg nieder. Dort brachten seine Blödeleien in der Rundfunk-Sendereihe "So was Dummes" dem damaligen NWDR hohe Einschaltquoten und Heinz Erhardt eine Popularität, die er fortan auch bei "Bunten Abenden" und auf Theatertourneen zu nutzen und zu mehren wusste.

Heinz Erhardt war glücklich, wenn es ihm gelang, die Menschen mit seinen Wortspielen und Nonsens-Versen zum Lachen zu bringen, denn, so Erhardt, "man macht das Leben nicht fröhlicher, indem man es ernst behandelt".
In den 50er-Jahren wurde der populäre Spaßvogel von Film und Fernsehen entdeckt. Filme wie "Der müde Theodor" und "Witwer mit 5 Töchtern " wurden zu Kassenerfolgen.