Родился в Баку, ныне Республика Азербайджан, в семье музыкантов.

1932-1937 - учился в музыкальной школе им. Гнесиных. 

Окончил Московскую государственную консерваторию (по классу виолончели - класс С.М. Козолупова, по композиции инструментовки - В.Я. Шебалина и Д.Д. Шостаковича) в 1946 году.

С 1948 года - солист Московской филармонии. Преподавал в Московской и Ленинградской консерваториях. Профессор (1959).

Муж Вишневской Галины Павловны.

В 1974 году вместе с женой был вынужден временно уехать за границу. В 1978 году они были лишены советского гражданства, которое им вернули только в 1990 году.

1977-1994 - руководитель Национального симфонического оркестра в Вашингтоне (США). 

Президент международного фестиваля в Эвиане (Франция). Был художественным руководителем фестиваля им. Д.Д.Шостаковича (Лондон). Артистический директор Бриттеновского фестиваля в Олдборо. В 1983 году основал собственный фестиваль в Снейпе (Snape).

Заслуженный артист РСФСР (20.10.1955). Народный артист РСФСР (12.06.1964). Народный артист СССР (14.10.1966).

Лауреат Сталинской премии (1951) - за концертно-исполнительскую деятельность.

Лауреат Ленинской премии (1964) - за концертно-исполнительскую деятельность (1961-1963).

Лауреат Государственной премии Российской Федерации (1995).

Лауреат Государственной премии РСФСР им. М.И. Глинки (1991).

Лауреат премии города Нижнего Новгорода (1997).

Почётный гражданин Нижегородской области (23.07.1996).

Жил в Москве, похоронен на Новодевичьем кладбище.

Награды: ордена «За заслуги перед Отечеством» 1-й (24.02.2007) и 2-й (25.03.1997) степени.

Память: 13 июня 2004 года Нижегородской государственной Академической филармонии было присвоено имя М.Л.Ростроповича.