Преподобный Герман был родом из города Тотьмы Пермской епархии. Благочестивые родители не могли научить его грамоте, но воспитали ум и сердце сына в строгих правилах христианского благочестия. С юных лет, стремясь к богоугождению и спасению, он по достижении зрелого возраста посвятил себя всецело на служение Богу в иноческой жизни. Молва о чрезвычайном удобстве Соловецкого острова для пустынного подвижничества привлекла его на Беломорский берег, и с рыболовами летом, вероятно, 1428 года он посетил место своих будущих подвигов. Хотя Соловецкий остров вполне соответствовал влечениям его души и представлялся ему совершенно удобным для глубокого безмолвия, однако же он не решился остаться там на жительство один. По окончании лета прп. Герман возвратился с рыболовами на Поморский берег и, поселившись на реке Выге при часовне, подвизался в молитве и посте.

Полюбив Соловецкий остров, преподобный Герман сделался со временем проводником и сожителем первым обитателям его – преподобным Савватию († 1435; память 27 сентября/10 октября) и Зосиме († 1478; память 17/30 апреля). Удалившись из Валаамского монастыря и отыскивая более уединенное место, инок Савватий, объятый огнем Божественной любви и смиренномудрия, устремился к Белому морю с непреодолимым желанием достигнуть Соловецкого острова. На реке Выге он встретился с преподобным Германом, от которого еще более услышал об удобстве Соловецкого острова для пустынножительства. Заготовив ладью, съестные припасы и орудия для возделывания земли, около 1429 года оба подвижника переселились на пустынный Соловецкий остров. Под Секирной горой, на расстоянии одной версты от берега, они устроили келлию, где совершали спасительный подвиг пустынножительства. Здесь они были утешены особенным знамением, предвещавшим будущее предназначение острова, а именно: Господь благословил Соловецкий остров для уединенной монашеской жизни. Поэтому миряне не могли на нем долго оставаться. Но один рыбак дерзнул поселиться там с женой. Однажды в раннее воскресное утро преподобный Савватий услышал плач и стоны. И когда преподобный Герман пошел к месту, откуда они слышались, то увидел женщину в слезах, которая и рассказала ему, что два светлых юноши били ее, повелевая оставить остров, определенный по воле Божией для жительства иноков. После этого рыбак с женою отплыл с острова.

В суровом подвиге преподобные Герман и Савватий провели около шести лет. В 1435 году преподобный Герман уехал на Онегу за припасами, а преподобный Савватий отошел ко Господу. Но случилось это не на острове, а на реке Выге, куда преподобный Савватий приплыл в предчувствии кончины для причащения Св. Таин. Однако в скором времени Господь привел к преподобному Герману другого пустынника – юного отшельника Зосиму, который соорудил келлию на берегу пресноводного озера, в полуверсте от келлии преподобного Германа. С этого времени преподобный Герман сделался постоянным обитателем острова, участником молитвенных подвигов преподобного Зосимы и ревностным помощником его в основании монастыря. Будучи человеком некнижным, но убежденный в том, что жизнь великих подвижников весьма назидательна, прп. Герман впоследствии велел записать клирикам для памяти все, что он видел при жизни преподобного Савватия, о пришествии своем с ним на остров и о разных событиях из жизни блаженных отцов. Таких записок оставалось немало, ими воспользовался при составлении жития преподобных Зосимы и Савватия ученик преподобного Германа Досифей. Также преподобный завещал ученикам собирать в обитель книги.

Более пятидесяти лет провел преподобный Герман на суровом, холодном острове, проводя жизнь в непрестанной Иисусовой молитве и трудах, стараясь как можно более быть полезным для обители. Но по нуждам монастыря часто путешествовал на твердую землю. Святая любовь не взирала ни на опасности плавания по обманчивому морю, ни на другие неудобства пути, нелегкие особенно для старости. И самая смерть застигла его на службе обители. В 1479 году при игумене Арсении, преемнике св. Зосимы, преподобный Герман был послан в Новгород по делам монастыря, в обители св. Антония Римлянина почувствовал близость кончины и после исповеди и причащения Св. Таин мирно предал дух свой Богу. Соловецкие иноки хотели перевезти тело святого старца в родную обитель. Честные мощи святого были обретены нетленными и с честью положены с правой стороны алтаря в монастырском храме во имя святителя и чудотворца Николая, рядом с мощами преподобного Савватия. Впоследствии над местом погребения преподобного Германа была устроена часовня, а в 1860 году в обители был освящен каменный храм его имени.

Около 1602 года преподобный Герман явился пресвитеру Григорию, служившему в городе Тотьме, и повелел ему написать его образ вместе с преподобными Зосимой и Савватием и составить ему тропарь. Пресвитер Григорий исполнил повеление святого. Все с верою приходившие к иконе преподобного Германа получали исцеления от недугов.

Празднование преподобному по благословению патриарха Московского и всея Руси Иоакима (1674–1690) и архиепископа Холмогорского Афанасия совершается с 1692 года 30 июля/12 августа.

Сохранилось рукописное житие святого, составленное около 1627 года иноком Соловецкой обители. К житию приложено описание чудес, совершившихся от иконы преподобного Германа в Тотьме.