Родился в Астрахани в семье мещан. Фамилия при рождении - Ульянин.
Окончил Астраханскую гимназию, физико-математический факультет Казанского университета (1854).
1854-1963 - старший учитель математики в Пензенском дворянском институте с заведованием институтской метеорологической станцией.
1863-1869 - старший учитель математики и физики в Нижегородской мужской гимназии, одновременно работал преподавателем и воспитателем в других учебных заведениях Нижнего Новгорода.
1869-1874 - инспектор народных училищ Симбирской губернии.
1874-1886 - директор народных училищ Симбирской губернии.
Действительный статский советник (1877).
Отец Владимира Ильича Ленина и Анны Ильиничны Елизаровой.
Умер от инсульта. Похоронен на кладбище Покровского монастыря города Симбирска (ныне Ульяновск).
Награды: ордена Св. Анны 2-й (25.12.1874) и 3-й (19.11.1865) степени; Св. Владимира 3-й степени (01.01.1882); Св. Станислава 1-й (01.01.1886) и 2-й (22.12.1872) степени.
Память: именем Ульянова названа улица в Нижегородском районе Нижнего Новгорода. На здании бывшей Нижегородской мужской гимназии, где он преподавал и жил (ныне главный корпус Мининского университета - Нижний Новгород, Нижегородский район, улица Ульянова, дом 1), установлена памятная доска (19.02.1976). Также памятная доска установлена на здании бывшего Мариинского женского училища (улица Ильинская, дом 65, корпус 1).