De la sfârșitul anilor ”50 până la mijlocul anilor ”70, Efrem Zimbalist a fost unul dintre cei mai importanți actori de televiziune, lansându-se în rolul unui detectiv privat, în serialul „77 Sunset Strip”, difuzat între 1958 și 1964 pe televiziunea americană ABC, înainte de a primi rolul inspectorului Erskine din serialul „The F.B.I.”, transmis pe același post între 1965 și 1974.
În timpul celor nouă sezoane ale serialului, inspectorul Erskine și agenții său au rezolvat nenumărate cazuri de crimă, răpiri și jafuri bancare, inspirate din fapte reale, fiecare episod având nevoie în acea perioadă de aprobarea Biroului Federal de Investigații (FBI).
Efrem Zimbalist, fiul cântăreței de operă Alma Gluck și a violonistului Efrem Zimbalist Sr., a jucat de asemenea în aproximativ 20 de lungmetraje, printre care „House of Strangers” (1949), „Îngeri în sclavie/ Band of Angels” (1957), alături de Clark Gable și Sidney Poitier, „Too Much, Too Soon” (1958), alături de Errol Flynn, „The Chapman Report” (1962), împreună cu Jane Fonda, „Harlow” (1965), alături de Carol Linley, „Aeroport 1975/ Airport 1975” (1974), cu Charlton Heston, și „Formidabilul/ Hot Shots!” (1991), împreună cu Charlie Sheen.
În anul 2009, în cadrul unei ceremonii ce a avut loc la Los Angeles, Biroul Federal de Investigații (FBI) i-a adus un omagiu lui Efrem Zimbalist Jr., pe atunci în vârstă de 90 de ani, acordându-i o insignă de agent FBI onorifică. Insigna i-a fost înmânată chiar de directorul FBI, Robert Mueller.