Во время эпидемий "горячки" (то есть гриппа или тифа) и холеры, лютовавших в Москве в 30-е и 40-е годы, Гааз лечил главным образом бедняков, бесприютных и обездоленных. В богатые дома его тогда приглашали редко: боялись заразы.
"Староекатерининскую больницу для чернорабочих" он превратил в образцовое лечебное учреждение и значительно расширил. Он же руководил постройкой новых тюремных больниц, а "Полицейскую больницу для бродяг и нищих" переоборудовал, расширил, преобразовал в больницу для всех неимущих, для крепостных и городской бедноты.
К 1831 году он продал свой дом и деревню. Все деньги ушли на строительство и оборудование новых лечебных заведений, на пособия больным и не только больным арестантам. С тех пор он сам жил уже только при больницах. Сперва в здании Староекатерининской - ныне больница Московского областного клинического института (Орловский переулок), а с 1844 года в "полицейской" больнице, в Малоказенном переулке. (Теперь это переулок Мечникова, и в здании бывшей больницы размещен Институт гигиены детей и подростков. Именно там установлен памятник Гаазу.)
В последние годы он жил с одним слугой, не покидавшим его до конца. Все, что оставалось от его имущества, все, что он получал от богатых пациентов и благотворителей, Гааз расходовал на расширение больниц, на лекарства, пищу, одежду и другие пособия для бедняков, арестантов, ссыльных и их семей.
Многих крепостных крестьян тогда высылали в Сибирь на разные сроки - и даже пожизненно - без суда, простым распоряжением губернских властей, по прихоти недовольного помещика. Гааз добывал деньги, чтобы выкупать их жен, либо, если те с разрешения барина сопровождали ссыльных мужей, снабжал их деньгами на пропитание, так как добровольно едущим в ссылку не полагалось казенного довольствия.
Он не упускал из виду ничего, что имело хоть какое-то значение в трудной жизни заключенных. Свою деятельность в комитете он начал с упорной борьбы против того, что ссыльных вели прикованными к длинному железному пруту группами по 10-12 человек. Переходы арестантских партий от привала к привалу бывали и по тридцать-сорок километров. Люди разного возраста, роста, состояния здоровья, иногда и мужчины и женщины, неотрывно прикованные вместе, испытывали тягостные и унизительные мучения. Гааз почти пять лет воевал против этого "прута", который отстаивали министр внутренних дел и начальство конвойных войск, как "лучшее средстве, предотвращения побегов".
Но он добился отмены; И тогда же добился замены коротких и тяжелых кандалов более легкими и длинными, не так стеснявшими движения кандальников. По его настоянию ручные и ножные кольца кандалов, которые в мороз и в жару причиняли дополнительные муки, стали обшивать кожей и сукном.
Не ожидая, пока все эти усовершенствования начнут осуществлять власти, он за свой счет заказывал целые партии облегченных и обшитых кандалов. Еще и в начале XX века такие кандалы назывались "гаазовскими".
Он не только сам работал, но привлекал к своим заботам об арестантах и неимущих больных бескорыстных помощников из людей разных сословий и поколений.
Гааз писал: "В российском народе есть перед всеми другими качествами блистательная добродетель милосердия, готовность и привычка с радостью помогать в изобилии ближнему во всем, в чем он нуждается". Ему помогали камергер Д. Львов, столбовой дворянин, гвардейский офицер, сражавшийся под Бородином и в зарубежных походах, а потом ставший в Москве попечителем архитекторов и строителей, восстанавливавших город; богатый купец-старообрядец Рахманов, а после его смерти его вдова. Гаазу удавалось расшевелить и равнодушных, добиваться пожертвований и от прижимистых. Датский коммерсант Мерилиз, владелец большого универсального магазина (ныне ЦУМ - "Мюр и Мерлиз"), дал 30 тысяч рублей для больных бедняков и арестантов.
Гааз устроил тюремные библиотеки- первые в России и неведомые в других странах - в каждую партию ссыльных снабжал книгами.