Принадлежал к старинному роду шведских дворян. 
В августе 1891 года окончил Пажеский Его Величества корпус и поступил на службу в лейб-гвардии Преображенский полк, в котором прослужил десять лет, после чего оставил военную службу. Свою гражданскую деятельность начал в должности уездного предводителя дворянства в Ковенской, а затем в Минской губерниях.
1908-1911 - губернатор Киевской губернии.
1912-1915 - губернатор  Минской губернии.
В октябре 1915 года был назначен губернатором в Нижний Новгород. Благодаря его заботам в городе открывается Нижегородский университет. В город срочно эвакуируют предприятия, учреждения и оборонные заводы, и он обеспечивает бесперебойное снабжение и работу. 
2 марта 1917 года местный Совет рабочих депутатов вынес постановление об аресте губернатора. Несмотря на его лояльность, был арестован, а через день его переправляют в Москву. Однако 7 марта Министерство внутренних дел Временного правительства распорядилось выпустить узника.
Выйдя из заключения, Гирс возвратился в Нижний Новгород.
Осенью 1918 года постановлением Нижегородского ГубЧК был приговорён к расстрелу, но ему чудом удалось спастись.
Эмигрировал в Эстонию, был вице-губернатором города Ревеля.
В 1924 году перебрался во Францию. Сотрудничал со многими общественными организациями. Оказывал помощь молодёжным организациям, возглавлял попечительский комитет Национальной организации витязей (НОВ). В 1943 году был избран в приходской совет Свято-Александро-Невского собора в Париже, одно время был членом ревизионной комиссии.
Автор ряда мемуарных очерков. Написал воспоминания (переданы в архив Колумбийского университета, США). 
Умер в Париже, похоронен на православном кладбище Сен-Женевьев-де-Буа.