Так родилась идея создания Дома трудолюбия — общественной организации, которая способствовала преодолению бедности и, одновременно, нравственному воспитанию общества — причем как той его части, которая страдала материально и нуждалась в благотворительности, так и той, которая сама делалась благотворителем и тем самым возвышалась духовно. Впрочем, до открытия самого Дома трудолюбия было еще далеко.
Призыв отца Иоанна был услышан. По одному его слову, а главное, по его личному примеру многие люди стали приносить и присылать ему денежные средства для помощи беднякам. И с течением времени эта помощь становилась все более и более внушительной.
В 1874 году по инициативе отца Иоанна при Андреевской церкви города Кронштадта было основано православное христианское братство «Попечительство святого апостола Андрея Первозванного». В него вошли представители самых разных слоев общества. А в 1881 году состоялась закладка здания Дома трудолюбия. Сам же Дом был открыт 12 октября 1882 года. По замыслу его основателя это учреждение призвано было одновременно дать кронштадтским беднякам и столь необходимый им «хлеб насущный», и не менее необходимый «хлеб духовный».
Здание Дома трудолюбия насчитывало четыре этажа и было прекрасно оборудовано. При нем имелась церковь во имя святого благоверного князя Александра Невского. Основу Дома составляли рабочие мастерские. Первоначально были устроены пеньковая и картузная мастерские (к 1902 году на них работали одновременно более 7 тысяч человек); это было сделано специально для того, чтобы к работе могли приступать люди, не имевшие каких-то специальных знаний или навыков. Всего же мастерские в течение года посещали до 25 тысяч человек. Важно было, что все эти люди получали не подаяние (которое развращает и унижает человека, способного к труду), но возможность честно трудиться и получать за свой труд вознаграждение.
Кроме того, Дом трудолюбия включал в себя особую систему просветительских учреждений и разного рода ремесленных школ, в которых подростки и взрослые могли обучиться какому-либо ремеслу. Так, имелись: бесплатная начальная школа (в которой в 1903 году обучалось 259 детей); мастерская для обучения различным ремеслам, главным образом, работе по дереву (61 человек); рисовальный класс с бесплатным обучением для бедняков (около 30 человек); мастерские женского труда, главным образом для девочек, в которых обучали шитью, кройке, вышиванию (около 50 человек); сапожная мастерская; детская библиотека; зоологическая коллекция; зал для занятий военной гимнастикой. Для взрослых была организована воскресная школа, разбитая по степеням грамотности на несколько групп (в 1897 году в ней обучались 133 мужчины, 34 женщины, большинство из которых были моложе 30 лет). Также устраивались народные лекции, чтения. (В 1898 году средняя посещаемость их составляла 264 человека.) Существовала бесплатная народная читальня и платная библиотека. Православное попечительство занималось также издательской деятельностью: в основном издавались брошюры, составленные из трудов самого отца Иоанна Кронштадтского.
Но и это еще не все. При Доме трудолюбия были устроены: приют для детей, главным образом сирот, а также дневное убежище для малолетних (на 50 человек); загородная летняя дача для детей; богадельня для бедных женщин (на 22 человека); народная столовая с небольшой платой и благотворительными обедами в праздники (она работала в течение одиннадцати часов каждый день и отпускала от 400 до 800 обедов ежедневно); бесплатная лечебница (в 1896 году через нее прошел 2721 больной). У Дома имелся и свой огород при детской загородной дачи. Дом трудолюбия, основанный Иоанном Кронштадтским, стал образцом для подобных учреждений, возникавших в Санкт-Петербурге и провинциальных городах России.
В 1888 году отцом Иоанном был построен большой каменный ночлежный дом, рассчитанный на пребывание 84 мужчин и 24 женщин. Символическая плата составляла 3 копейки за ночь. Для постояльцев ночлежки выписывали газеты. В 1891 году построили и странноприимный дом с бесплатным и платным отделениями. При этом — что очень важно — помощь оказывалась всем неимущим, независимо от их национальности и вероисповедания.