Михаил Иванович Жаров родился в Москве в семье типографского рабочего. С детства участвовал в любительских спектаклях и проявлял большой интерес к кино.
Когда случилась Октябрьская революция, Михаилу Жарову было 18 лет. Он служил статистом в театре, мечтал о больших ролях и каждый свободный вечер использовал, чтобы просочиться на спектакли.
Окончил классы балетного и драматического актерского мастерства в студии Федора Комиссаржевского при Художественно-просветительском союзе рабочих организаций.
В 1921 году Жаров пришел к Всеволоду Мейерхольду проситься в труппу его театра. Всеволод Эмильевич взял Жарова сразу. Любопытно, что Михаила Жарова приняли в театр Мейерхольда в один день с Зинаидой Райх — будущей звездой ГосТиМа и женой великого режиссера.
Первой ролью у Мейерхольда стала для Жарова роль Брандахлыстовой в спектакле «Смерть Тарелкина» по пьесе Сухово-Кобылина.
«Мне сделали из парусины юбку, растрафареченную полосами, подобрали чулки, грубые туфли на низких каблуках, полосатую кофточку, тоже парусиновую, волосы я завязывал бантом и сверху кокетливо надевал шляпу-панаму. Вид у меня, прямо скажем, был экстравагантный».
Художником-постановщиком выступала Варвара Степанова — одна из основоположников конструктивизма, вторым режиссером был Сергей Эйзенштейн.
Молодой артист Жаров не спасовал перед рискованной задачей на каждом представлении пускаться в «мясорубку» — сложнейшую сцену, в ходе которой Брандахлыстову «проворачивали» в механизме, действительно напоминавшем мясорубку (она символизировала отношение государства к «маленькому» человеку в царской России).
В 1926 году Михаил Жаров покинул Театр им. Вс. Мейерхольда.
Современному зрителю актер хорошо известен по фильмам «Иван Грозный», «За тех, кто в море», «Анна на шее», «Девушка с гитарой», «Деревенский детектив», «Анискин и Фантомас», «И снова Анискин» и др.