Святитель Иаков, епископ Ростовский, по местному преданию, принял постриг в Копырском на реке Ухтоме монастыре, в 80 километрах от Ростова. Долгое время он был игуменом этого монастыря, а в 1385 году поставлен епископом Ростовским при митрополите Пимене и великом князе Димитрии Донском.

Защищая осужденную на казнь женщину, святитель, следуя примеру Спасителя, велел бросить в нее первый камень тому, кто считает себя безгрешным, и отправил женщину на покаяние. Князь и ростовские бояре, недовольные епископским судом, изгнали святого Иакова из Ростова. Выйдя из города, святитель подошел к озеру Неро, разостлал на воде свою святительскую мантию, и, осенив себя крестным знамением, поплыл на ней, как в лодке, управляемый благодатью Божией. Удалившись от города версты на полторы, святитель Иаков вышел на берег у места будущего монастыря. Князь и народ, раскаявшись, просили прощения у святителя. Кроткий епископ простил их, но обратно не вернулся.

На берегу озера Неро он поставил себе келлию и построил небольшую церковь в честь Зачатия праведной Анной Пресвятой Богородицы, положив начало Зачатьевскому Иаковлевскому монастырю. Скончался святитель Иаков здесь же 27 ноября 1392 года.

Распространено мнение, что святитель Иаков боролся с иконоборческой ересью некоего Маркиана, появившейся в Ростове в конце XIV века. Древнее житие святителя не сохранилось. Новейшие агиографы стали брать сведения из службы святителю Иакову Ростовскому. Однако служба, сохранившаяся в списках XVI–XVII вв., была составлена путем заимствований из службы на 6 февраля святителю Вуколу († ок. 100), который боролся с еретиком I века Маркианом, и из службы святителю Стефану Сурожскому (VIII; память 15 декабря), который противостал императору Константину Копрониму (741–775).