Является создателем театра «Современник», в 1956—1970 годах был его художественным руководителем; с 1970 года возглавлял МХАТ СССР имени Горького, а после его раздела в 1987 году — МХТ имени Чехова.
Ефремов был одним из выдающихся театральных режиссёров своего времени, он всегда оставался и актёром; на театральной сцене создал запоминающиеся образы современников в пьесах Виктора Розова, Александра Володина и Александра Гельмана; среди лучших ролей мхатовского периода — чеховский Астров и Мольер в «Кабале святош» Михаила Булгакова; кинозрителям известен прежде всего как полковник Гуляев («Батальоны просят огня», 1985), таксист Саша («Три тополя на Плющихе», 1967), Максим Подберёзовиков («Берегись автомобиля», 1966) и Айболит («Айболит-66», 1966).
На протяжении полувека, с 1949 года, Олег Ефремов преподавал мастерство актёра в Школе-студии МХАТ, был профессором и заведующим кафедрой мастерства актёра