Recunoașterea timpurie a lui Martin ca umorist a dus la un contract de înregistrare, iar de-a lungul anilor a fost nominalizat de mai multe ori la Grammy pentru o serie de albume de comedie excentrice. Gimmick-ul și atracția sa au venit sub forma unei livrări uscate, lipsite de umor și a unei atitudini plictisitoare, cu un aspect foarte conservator, care masca o filozofie vicleană, isteață și ultra-hip.
Câștigând popularitate în anii '70, a reușit în sfârșit să pătrundă în televiziune cu parodia de telenovelă cult "Mary Hartman, Mary Hartman" (1976), în care a jucat rolul lui Garth Gimble, un soț abuziv și volatil, a cărui pedeapsă a venit sub forma unui brad de Crăciun din aluminiu (împalat) în dulapul său. Martin a fost atât de popular în emisiune încât a fost reînvie în seria spin-off "Fernwood 2 Night" (1977) ca fratele geamăn Barth Gimble, care era co-prezentator al programului de televiziune al orașului împreună cu personajul lui Fred Willard, Jerry Hubbard.
După acest vârf, Martin a devenit un invitat căutat pe circuitul emisiunilor de discuții, fără a menționa specialele de varietate și filmele TV. A încercat să producă și să joace în propriul său sitcom "Domestic Life" (1984), dar seria a eșuat. De asemenea, a adăugat marca sa specială de veselie filmelor de-a lungul anilor, unele dintre ele fiind decente, cum ar fi FM (1978), Serial (1980), Mr. Mom (1983) și Clue (1985) în rolul colonelului Mustard, cu un aspect de profesor,