Родился в Нижнем Новгороде в купеческой семье.

Окончил Нижегородский Дворянский институт (1907).

Получил художественное образование в частных студиях Москвы и Рима, быстро стал известным скульптором. Стажировался в мастерской С.Т. Конёнкова. Одним из ярких результатов этой работы стало создание Рукавишниковым так называемой «передвижной фрески».

С 1918 года работал в Нижнем Новгороде по сохранению и популяризации художественного наследия. Вместе с братом в своём бывшем родовом поместье принимал участие в создании городского музея.

В 1919 году переехал в Москву. Занял видное место в отечественном искусстве, многое сделал по заказам музеев, создал галерею портретов выдающихся исторических деятелей, занимался сценографией, участвовал в выставках.

В середине 1920-х годов активно работал в области театрально-декорационного искусства, будучи вдохновлён популярной тогда идеей создания постановок, предназначенных для массовых празднеств.

В 1930-е годы создал ряд архитектурно-скульптурных проектов, в которых во главу угла ставил синтез архитектуры и скульптуры. В это же время близко сошелся со знаменитым архитектором И.В. Жолтовским. Именно Рукавишникову принадлежала (так и не осуществлённая) идея организации «синтетической мастерской» при создаваемых в 1932 году архитектурных мастерских, первой из которых руководил И.В. Жолтовский.

В конце 1930-1940-х годов удалось осуществить ряд монументальных проектов, где он проявил себя преимущественно в качестве скульптора.

В 1942 году, после попадания бомбы в здание Большого театра и последующих в результате этого утрат, Рукавишников вместе со скульптором Сергеем Кольцовым изготовили по своему собственному проекту гипсовые фигуры муз для ниш Большого театра Союза ССР.

Основатель одной из крупнейших скульптурных династий России.

Жил в Москве, похоронен на Ваганьковском кладбище.