Родился в Нижнем Новгороде в семье портного. 

Окончил исторический факультет Горьковского педагогического института (1946). 

1946-2009 - учитель истории в школе № 8 города Горького (Нижегородский район, площадь Минина и Пожарского, 2). Впоследствии восьмая школа, ставшая лицеем, в конце 70-х годов прошлого века переехала в новое, специально построенное, типовое здание на улице Пискунова, д. 35/а. 

Много внимания уделял школьному музею, который стал одним из лучших в городе. Был инициатором установки памятника погибшим ученикам и учителям в годы войны, который был открыт во дворе школы в 1972 году. 

Отличник народного просвещения СССР.  

Жил в Нижнем Новгороде, похоронен на кладбище «Марьина Роща».

Память: на здании лицея № 8 (Нижний Новгород, Нижегородский район, улица Пискунова, 35/а) установлена памятная доска (01.09.2009). На педагогическом совете лицея было решено учредить премию имени Константина Зильберга лучшему учителю 2009 года.