В 1917 году поступил в студию сценического искусства Ф. Ф. Комиссаржевского. В разные годы Ильинский работал в Театре Совета рабочих депутатов, Театре ХПСРО, Театре-кабаре «Летучая мышь», Никитском театре, Первом государственном театре для детей, Театре революционной сатиры (Теревсат), Театре «Аквариум», 1-й студии МХТ, Ленинградском государственном театре драмы (ныне Александринский) и других.
В 1920 году поступил в руководимый Всеволодом Мейерхольдом Театр РСФСР 1-й, который позже стал Театром имени Мейерхольда, где служил до 1935 года. За это время сыграл в постановках мастера множество ролей, например: фермера Гислена («Зори» Э. Верхарна), Тихона («Гроза» А. Н. Островского), Расплюева («Смерть Тарелкина» А. В. Сухово-Кобылина), Фамусова («Горе уму» А. С. Грибоедова), Присыпкина («Клоп» Маяковского) и других.
Ильинский искренне преклонялся перед Мейерхольдом как перед неутомимым искателем новых форм. Он называл этот период «замечательным и трудным». Однако со временем актёр начал чувствовать потребность в большей творческой самостоятельности.
С 1938 года — актёр Малого театра, где прослужил более 50 лет. Здесь он сыграл десятки ролей, а также выступал как режиссёр и сценарист.
Ильинский также занимался дубляжем фильмов и мультфильмов, выступал с чтением рассказов на концертной эстраде.
В 1938 году снялся в комедии «Волга-Волга». Всенародную популярность во второй половине XX века актёру принесли роли в фильмах Эльдара Рязанова: бюрократ Огурцов в «Карнавальной ночи» и фельдмаршал Кутузов в «Гусарской балладе».
