По краткому рукописному его житию не видно, кто он и откуда пришел в Ростов. Преосвященный Филарет предполагает, что Иоанн был знатного рода и человек образованный (знал латинский язык). Но по обстоятельствам времени царя Иоанна IV Грозного весьма вероятно, что он скрылся из Москвы от ужасов, чтобы в тиши и неизвестности служить Господу. В Ростове блаженный Иоанн принял на себя подвиг юродства, терпя нужды и скорби. Он не имел постоянного пристанища и лишь изредка отдыхал в доме своего духовника, священника Всесвятской церкви, или у одной престарелой вдовицы. Он имел «власы на главе велики», почему и назывался Власатым. Живя в смирении, терпении и непрестанной молитве, он духовно окормлял многих людей, в том числе и преподобного Иринарха, затворника Ростовского (память 13/26 января). Скончался блаженный Иоанн после долгих подвигов, перенеся много скорбей, в глубокой старости 3 сентября 1580 (1582) года и, согласно завещанию, был погребен за алтарем церкви св. Власия.

Погребение блаженного Иоанна ознаменовано было, по преданию, страшной бурей, молнией и громом, что произвело на всех удручающие впечатление. Благочестивые люди со времени погребения блаженного приходили на его могилу и брали землю; многие по вере получали исцеления и потому прозвали св. Иоанна Милостивым, отождествляя его со св. Иоанном Милостивым, Александрийским патриархом, память которого 12/25 ноября. В числе исцелившихся был Ростовский митрополит Кирилл, лишившийся в старости руки и ноги, а потому оставивший управление епархией. После усердной молитвы над гробницей блаженного Иоанна престарелый святитель, принесенный в церковь на руках, получил внезапное облегчение от своего недуга, так что уже мог сам идти в архиерейский дом, и впоследствии не только совершал богослужения, но и снова управлял епархией во время плена знаменитого своего преемника Филарета Никитича Романова (патриарха Всероссийского).

Над могилой блаженного Иоанна вместо прежней деревянной Власиевской церкви была построена каменная церковь в честь Толгской иконы Божией Матери с приделом св. мч. Власия.

Память блаженного Иоанна Власатого, Христа ради юродивого, Ростовского чудотворца, празднуется в день его кончины – 3/16 сентября и вторично – 12/25 ноября в память св. патриарха Александрийского Иоанна Милостивого, имя которого он носил.