Родился в городе Арзамасе в семье промыслового рабочего.
Учился в Арзамасском духовном училище, затем с 1867 года в Нижегородской духовной семинарии (не окончил). Окончил курсы при Московском учительском институте (1874).
1874-1880 - преподаватель Духовщинского городского училища Смоленской губернии.
1881-1896 - инспектор народных училищ: в Смоленской губернии, с 1890 года - в Москве.
В 1896 году вынужден был уйти в отставку, так как департамент полиции квалифицировал его деятельность как «прикрытие среди учителей Москвы неблагонадёжного элемента». Читал лекции на учительских курсах в Курске, Саратове и других городах.
В 1903 году был арестован за якобы противоправительственную агитацию в школе и среди рабочих и выслан в Новгородскую губернию. В декабре 1904 года был восстановлен во всех своих правах и возвратился в Москву, но к педагогической деятельности допущен не был.
После Октябрьской революции вёл методическую работу с учителями, преподавал на курсах ликбеза, читал лекции на педагогическом факультете 2-го МГУ (1923-1924).
Внёс значительный вклад в педагогическую теорию и практику. Опираясь на эволюционную теорию Ч. Дарвина, явился основоположником педагогической концепции, которая получила название «Эволюционная педагогика».
Автор «Русского букваря», по которому учились грамоте многие поколения граждан нашей страны. Большое распространение получила и его хрестоматия «Мир в рассказах для детей».
Жил в Москве, похоронен на Дорогомиловском кладбище.

Почётный гражданин города Арзамаса Нижегородской области (27.11.1996, посмертно).
Память: в 1969 году решением исполкома Арзамасского горсовета улица Южная была переименована в улицу Вахтерова.