Родился в Нижнем Новгороде в семье учителя и литератора. Брат художника Мавриной (Лебедевой) Татьяны Алексеевны.

В 1920 году семья переехала в Москву.

Окончил Московское высшее техническое училище им. Баумана (1928). Работал во Всесоюзном электротехническом институте. После выделения в 1930 году электротехнического факультета МВТУ в самостоятельный Московский энергетический институт стал преподавателем МЭИ.

Профессор (1935). Доктор технических наук (1939). Академик АН УССР (1945). Академик АН СССР  (23.10.1953).

В течение 10 лет руководил отделом автоматики ВЭИ. Во время войны разработал систему стабилизации танкового орудия при прицеливании, принятую на вооружение, аналоговую систему автоматического самонаведения на цель авиационной торпеды. В 1945 году создал первую в стране электронную аналоговую вычислительную машину для решения систем обыкновенных дифференциальных уравнений, которые часто встречаются в задачах, связанных с энергетикой.

1946-1950 - директор института энергетики АН УССР (г. Киев). Под его руководством была разработана первая в СССР и континентальнйо Европе Малая электронно-счётная машина (МЭСМ).

В 1950 году приглашён в Институт точной механики и вычислительнйо техники (ИТМиВТ) АН СССР в Москве, где руководил созданием БЭСМ-1. После сдачи БЭСМ-1, c 1952 года являлся директором ИТМиВТ. Институт впоследствии получил его имя.

Звание Героя Социалистического Труда присвоено 1 июня 1956 года.

Лауреат Сталинской премии (1950) - за разработку и внедрение устройства компаундирования генераторов электростанций для повышения устойчивости энергосистем и улучшения работы электроустановок.

Лауреат Ленинской премии (1966) - за создание системы «А» (ПРО).

Лауреат Государственной премии СССР (1969) - за разработку и внедрение в народное хозяйство высокопроизводительной универсальной ЭВМ БЭСМ-6.

Жил в Москве, похоронен на Новодевичьем кладбище.

Награды: ордена Ленина (27.03.1954, 01.06.1956, 09.11.1962, 01.11.1972); Октябрьской революции (26.04.1971); Трудового Красного Знамени (16.05.1947, 23.02.1957).

Память: в честь учёного названа улица в Приокском районе Нижнего Новгорода. Имя Лебедева присвоено Институту точной механики и вычислительной техники.