1920-ban lépett fel először, a Szegedi Városi Színházban amatőrként, azután Rákosi Szidi színésziskoláját elvégezve 1922-ben a pesti Magyar Színház szerződtette, de eleinte nem maradt sokáig egyetlen társulat tagja sem. 1924-ben a Renaissance Színházban, 1924/25-ben az Országos Kamara Színházban játszik, 1926/27-ben Győrött, 1927/28-ban Miskolcon, 1927–1929 között Szegeden szerepel. 1929 nyarán elveszi feleségül a fiatal Dajka Margitot, akivel 1940-ben bekövetkezett válásukig együtt él. 1932-ben a Belvárosi Színházhoz szerződik Daykával együtt, majd 1934-ben a Vígszínházhoz, időközben befutott, nagyon rövid idő alatt sztárrá lett felesége már szabadúszó, csak darabra szerződik.

1935-től, amikor Németh Antal veszi át a Nemzeti Színház vezetését, és meghívja darabokra Daykát, Kovács is a Nemzetibe szerződik, egészen 1945-ig a társulat tagja marad. 1945 után előbb az Úttörő Színházhoz, azután a Petőfi Színházhoz kerül (ahol az immár volt felesége, Dayka is játszik), majd megint csak együtt a jogutód Thália Színházhoz. Onnan ment nyugdíjba az 1960-as évek legvégén. Kezdetben epizódszerepeket alakított, az 1930-as évektől azután már főszerepeket is, főleg negatív, intrikus figurákat. Alakításait a kritika szerint határozott karakter és szuggesztivitás jellemezte. Számos filmben szerepelt. 1957-ben és 1967-ben érdemes művész címet kapott.