М. Виельгорский был сыном польского посланника при дворе Екатерины II, Юрия Михайловича Виельгорского. Отец перешел на русскую службу и имел высокий чин действительного тайного советника. Мать М. Виельгорского, урожденная графиня Софья Дмитриевна Матюшкина, была фрейлиной Екатерины II. Императрица стала восприемницей Юрия Михайловича и крестной матерью его детей, когда в 1794 году семья приняла православие. В десять лет Михаил вместе со своим младшим братом был пожалован Павлом I в звание рыцаря Мальтийского ордена.
В январе 1804 года граф Виельгорский получил придворный чин камер-юнкера и тогда же поступил на службу в Коллегию иностранных дел. С этого времени его карьера стремительно шла вверх. Ее вершиной стал придворный чин обер-шенка, который причислялся к первым чинам двора и значился во 2-м классе в Табели о рангах.
Уже в детские годы у Михаила проявились незаурядные музыкальные способности: он неплохо играл на скрипке и фортепиано, пытался сочинять. Виельгорский получил разностороннее музыкальное образование. Теорию музыки и гармонию он изучал у В. Мартин-и-Солера, композицию у Тауберта. В семье Виельгорских музыка почиталась особым образом. Еще в 1804 г., когда вся семья жила в Риге, Виельгорский принимал участие в домашних квартетных вечерах: партию первой скрипки исполнял отец, альта — Михаил Юрьевич, а партию виолончели — его брат, Матвей Юрьевич, выдающийся музыкант-исполнитель. 
Карл Брюллов. Портрет Матвея Виельгорского
Матвей Юрьевич — директор Департамента Министерства иностранных дел, обер-гофмейстер русского императорского двора. Был великолепным виолончелистом, учеником Бернгарда Ромберга. М. Виельгорский принимал участие в учреждении Императорского русского музыкального общества. Завещал Санкт-Петербургской консерватории свою ценную нотную библиотеку, а свою знаменитую, уникальную виолончель работы Страдивари подарил К. Ю. Давыдову, восхитившись его игрой в Бетховенском квартете. Искусством Матвея Виельгорского восхищалась музыкальная Европа. Ему посвятили свои произведения Шуман и Мендельсон, Львов и А. Рубинштейн, А. Гензельт, К Шуберт, И. Б. Гросс, О. Франкомм и А.-Ф. Серве.
Не ограничиваясь полученными знаниями, Виельгорский продолжил занятия композицией в Париже у Л. Керубини — известного композитора и теоретика. Испытывая большой интерес ко всему новому, Виельгорский в Вене познакомился с Бетховеном и присутствовал в числе первых восьми слушателей при исполнении «Пасторальной» симфонии. В течение всей жизни он оставался горячим поклонником немецкого композитора.
Где бы ни жил Виельгорский, — его дом всегда становится своеобразным музыкальным центром. Здесь собирались истинные ценители музыки, впервые исполнялись многие сочинения. В 1844 году Виельгорский приобрёл в Петербурге дом на Итальянской улице (сейчас — площадь Искусств, 4). Этот дом Виельгорского стал элитным клубом, своего рода музыкальным салоном и центром международных культурных связей. Здесь выступали артисты и музыканты. Во время гастролей в Санкт-Петербурге в доме Виельгорского останавливался Ф. Лист. Поэт Д. Веневитинов называл дом Виельгорского «академией музыкального вкуса», Гектор Берлиоз, приезжавший в Россию, — «маленьким храмом изящных искусств», Серов — «лучшим приютом для всех музыкальных знаменитостей нашего времени».
Михаил Юрьевич Виельгорский свободно владел немецким, французским и итальянским и активно способствовал общению русских и иностранных гостей. Дом Виельгорских в середине XIX века был центром культурной жизни Петербурга. Его посещали Глинка, Тютчев, Берлиоз, Лист, Рубини и многие другие деятели культуры Европы и России. Там Лист познакомился с М.И. Глинкой. В этом доме великий венгерский композитор впервые играл на рояле по нотной партитуре оперу Глинки «Руслан и Людмила». Он буквально влюбился в «Марш Черномора» и сделал его фортепианное переложение, которое нередко исполнял в концертах.
Между прочим, Глинка часто пел в салонах и в дружеском кругу. От его небольшого, но выразительного и теплого голоса, от того чувства, которое он вкладывал в исполнение, слушатели приходили в полный восторг. Дамы просто млели. 
Глинка пел исключительно свои романсы и песни. Исключение он делал лишь для одного — единственного романса: «Любила я» Виельгорского. «Он пел этот милый романс с таким же увлечением, с такой же страстностью, как самые страстные мелодии в своих романсах», — вспоминал А.Н. Серов. Спел этот романс Глинка и для Листа, который тут же сделал его блестящую концертную обработку.