Родился в селе Крюковка, ныне Лукояновского района Нижегородской области.
Окончил Ленинградское музыкальное училище им. М.П. Мусоргского по отделению балалайки (1939). 
В 1936 году, ещё будучи студентом третьего курса, стал выступать в оркестре имени В.В. Андреева. Солист, а затем директор оркестра балалаечников Центрального дома Красной Армии. 
Участник Великой Отечественной войны. В составе Краснознамённого ансамбля им. А.В. Александрова прошёл боевой путь от Калинина до Кёнигсберга. В 1946 году был демобилизован.
В 1953 году окончил факультет народных инструментов Московского музыкально-педагогического института имени Гнесиных по классу балалайки. После окончания Гнесинки некоторое время преподавал в ней, а также руководил эстрадным оркестром Москонцерта.
В 1958 году создал первый профессиональный дуэт балалайки и гитары совместно с Георгием Миняевым. Дуэт гастролировал в СССР и за рубежом в течение пятнадцати лет. После смерти Миняева (1972) гастролировал с пианисткой Светланой Сорокиной, а затем с гитаристом Юрием Черновым. Последние годы был солистом Государственного академического русского народного оркестра имени Н.П. Осипова.
Исполнения Рожкова можно услышать в более чем пятидесяти фильмах, среди них: «Василий Андреев», «Война и мир», «Течёт Волга», «А зори здесь тихие…», «Простая история», «Тени исчезают в полдень» и др.
Заслуженный артист РСФСР (12.07.1968). Народный артист Российской Федерации (29.12.1994). Профессор гуманитарного факультета МАТИ им. К.Э. Циолковского (1998).
Жил в Москве, похоронен на Троекуровском кладбище.
Награды: ордена «За заслуги перед Отечеством» 4-й степени (08.08.1998); Отечественной войны 2-й степени (06.04.1985); медали, в т.ч. «За боевые заслуги» (08.02.1943).