Де Гартман с раннего детства рос среди культурных людей, близко к земле, окружённый крестьянами и ремесленниками старой России. Он был всегда благодарен тому, что пережил понимание взаимосвязи жизни и природы, и за познание духа и образа жизни людей, так хорошо описанных Чеховым.
В девять лет эта счастливая пора прервалась смертью его отца, капитана гвардии. Мать зачислила Фому кадетом в военную школу в Санкт-Петербурге, оконченную когда-то его отцом.
Особый талант Фомы де Гартмана был быстро замечен, и ему позволили проводить всё свободное время в музыкальных студиях.
Ему было только одиннадцать лет, когда Антон Аренский принял его своим учеником по гармонии и композиции, и Фома учился у него до тех пор, пока Аренский не умер в 1906 году. У Аренского он впервые встретил Сергея Танеева, у которого позже изучал контрапункт. Также он занимался у Анны Есиповой-Лешетицкой по технике фортепиано.
В 1903 году Фома получил диплом Санкт-Петербургской консерватории, бывшей тогда под руководством Римского-Корсакова. В том же году он окончил военную школу как младший офицер гвардии, и его ждали годы активной службы. Несмотря на это, он находил время сочинять и вошёл в музыкальную и театральную жизнь Санкт-Петербурга. В год своего выпуска де Гартман написал музыку для постановки Мариинским театром трагедии Дюма «Калигула» – это было первое заметное публичное представление его работы. Также он написал фортепианные прелюдии и музыку для песен на слова русских поэтов, опубликованные Юргенсоном и Циммерманом.
Через год или два Аренский писал Танееву про де Гартмана и прокомментировал:
Обратите внимание, что в конце его самого первого сочинения, прелюдии в ля-бемоль мажор, опубликованной Юргенсоном, есть пять или шесть нот, которых не существуют на фортепиано вообще. Клавиатура должна расшириться почти на семь дюймов, чтобы вместить их. Сейчас он знает свой инструмент лучше и очень хорошо играет на нём, но его внимание всё ещё склонно к блужданию.
Несмотря на это, Фома преуспевал под опекой Аренского. Его наиболее выдающимся успехом был балет «Аленький цветочек», премьера которого состоялась в 1907 году в Мариинском театре Санкт-Петербурга в присутствии царя. В составе исполнителей были Легат, Павлова, Карсавина, Фокин и Нижинский.
Годом ранее Фома женился на Ольге Аркадьевне де Шумахер, и они с супругой были приятно удивлены, когда в признание его таланта царь разрешил освободить Фому от службы в армии, дав ему статус офицера запаса. Таким образом, Фома мог посвящать всё своё время музыке. Это дало ему возможность осуществить своё большое желание учиться в Мюнхене под руководством Феликса Мотля, личного ученика Вагнера и музыкального руководителя Оперы.
С 1908 по 1912 года де Гартманы проводили основную часть года в Мюнхене, где Фома ещё глубже проникал в новые области музыки.
К моему большому удивлению, я оценил себя и начал понимать, что всё, что привлекало меня в моей юности, всё, что я нежно любил в музыке, больше меня не удовлетворяло, и было, так сказать, устаревшим.
В тот момент произошли два события в Мюнхене, и это оставило след на моём творческом пути. Первым была большая выставка картин Ван Гога, Гогена и Сезанна, на тот момент ещё совершенно неизвестных, и вторым, вскоре после этого, была моя встреча с русскими художниками Явленским, Верёвкиной и особенно Кандинским, с которым мы дружили до самой его смерти.
О силе и глубине этих отношений и их значении в жизни Фомы, указывает замечание жены Кандинского, Нины:
Насколько я помню, среди круга его друзей был только один человек, к которому он обращался фамильярно, на «ты», и только один, который обращался к нему так же: русский композитор Фома де Гартман. Даже со своим ближайшим другом-художником Паулем Клее Кандинского отталкивала чрезмерная фамильярность. Он общался с ним в официальной вежливой форме – несмотря на несколько десятилетий сильной дружбы.
В те годы в Мюнхене Фома написал хореографическую сюиту «Дафния, Нарцисс, Орфей и Дионис», которая была представлена в Одеоне. Также в Одеоне, по настоянию Кандинского, Александр Сахаров исполнил сольный музыкальный номер «Пластический танец», написанный для него де Гартманом. В течение двух последних лет в Мюнхене Фома придумывал и набрасывал музыку для экспериментального театрального проекта Кандинского «Жёлтый звук». Из-за вмешательства войны для проекта так и не удалось найти режиссера. Де Гартман также входил во внутренний круг авангардного издания Кандинского и Франца Марка «Голубой всадник», для которого он написал статью «Анархия в музыке».