De la sfârşitul anilor ’50 până la mijlocul anilor ’70, Efrem Zimbalist a fost unul dintre cei mai importanţi actori de televiziune, lansându-se în rolul unui detectiv privat, în serialul "77 Sunset Strip", difuzat între 1958 şi 1964 pe televiziunea americană ABC, înainte de a primi rolul inspectorului Erskine din serialul "The F.B.I.", transmis pe acelaşi post între 1965 şi 1974.
În timpul celor nouă sezoane ale serialului, inspectorul Erskine şi agenţii său au rezolvat nenumărate cazuri de crimă, răpiri şi jafuri bancare, inspirate din fapte reale, fiecare episod având nevoie în acea perioadă de aprobarea Biroului Federal de Investigaţii (FBI).
Efrem Zimbalist, fiul cântăreţei de operă Alma Gluck şi a violonistului Efrem Zimbalist Sr., a jucat de asemenea în aproximativ 20 de lungmetraje, printre care "House of Strangers" (1949), "Îngeri în sclavie/ Band of Angels" (1957), alături de Clark Gable şi Sidney Poitier, "Too Much, Too Soon" (1958), alături de Errol Flynn, "The Chapman Report" (1962), împreună cu Jane Fonda, "Harlow" (1965), alături de Carol Linley, "Aeroport 1975/ Airport 1975" (1974), cu Charlton Heston, şi "Formidabilul/ Hot Shots!" (1991), împreună cu Charlie Sheen.
În anul 2009, în cadrul unei ceremonii ce a avut loc la Los Angeles, Biroul Federal de Investigaţii (FBI) i-a adus un omagiu lui Efrem Zimbalist Jr., pe atunci în vârstă de 90 de ani, acordându-i o insignă de agent FBI onorifică. Insigna i-a fost înmânată chiar de directorul FBI, Robert Mueller.