Родился в станице Тишанской, ныне Нехаевского района Волгоградской области, в семье плотника. 

В декабре 1917 года вступил в Красную гвардию. 

В 1921-1932 годах: в органах ВЧК-ОГПУ, работал на Дону (1921-1923) и в Средней Азии (1923-1932). Причастен к репрессиям против казаков, «националистов» и «басмачей».

Образование получил на курсах марксизма-ленинизма при ЦК ВКП(б) (1934).

1934-1937 - секретарь парткома фабрики «Гознак» (Ленинград). 

1937-1938 - первый секретарь Ленинского райкома ВКП(б) (Ленинград). 

1938-1940 - первый секретарь Куйбышевского обкома ВКП(б).

В 1940 году был снят с должности и в феврале 1941 года на XVIII конференции ВКП(б) выведен из состава кандидатов в члены ЦК. Однако особых последствий эти решения не имели, и уже в 1941 году стал заведующим отделом, позже секретарём и вторым секретарём, а в 1943 году - 1-м секретарём Орловского обкома, руководил партизанским движением на территории области. 

1949-1952 - первый секретарь Краснодарского крайкома ВКП(б).

С октября 1952 года - секретарь ЦК КПСС и кандидат в члены Президиума ЦК. 12 декабря 1952 года, сохраняя должность секретаря ЦК, стал министром заготовок СССР.

С марта 1953 года - второй секретарь Ленинградского обкома КПСС, первый секретарь Ленинградского, затем Воронежского горкома КПСС.

В октябре 1955 - декабре 1957 годах -  первый секретарь Горьковского обкома КПСС. Выступил инициатором строительства жилья силами самих работников заводов («горьковский метод народной стройки»). 

С июня 1957 по октябрь 1961 года - член Президиума ЦК КПСС. В декабре 1957 - мае 1960 года - секретарь ЦК КПСС. Одновременно с 16 апреля по 24 ноября 1959 года - председатель Президиума Верховного Совета РСФСР.

1960-1962 - заместитель председателя Совета Министров СССР.

1961-1962 - председатель Государственного комитета заготовок Совета Министров СССР.

Звание Героя Социалистического Труда присвоено 15 мая 1961 года.

Депутат Верховного Совета СССР 1-7-го созывов (1937-1966).

С декабря 1962 года - председатель Президиума Верховного Совета РСФСР и одновременно с декабря 1963 года - заместитель председателя Президиума Верховного Совета СССР.

В ноябре 1966 года, находясь во главе делегации Верховного Совета СССР в Чили, тяжело заболел от попадания в организм неизвестного вируса. 

Скончался в Москве. Урна с прахом захоронена в Кремлёвской стене на Красной площади.

Награды: ордена Ленина (19.08.1946, 01.02.1957, 15.05.1961); Отечественной войны 1-й степени (01.02.1945); Трудового Красного Знамени (26.06.1951). 

​