После этого Джон убедил родителей, что такая учеба бесполезна для будущего писателя и более полезной будет поездка в Европу.
Кейдж пробыл в Европе полтора года. Сначала он изучил готическую и греческую архитектуру, но решил, что архитектура не настолько интересна, чтобы посвятить ей всю жизнь. Тогда он начал заниматься живописью, поэзией и музыкой. Он познакомился с творчеством ведущих современных композиторов — Стравинского и Хиндемита, а также впервые услышал музыку Баха.
Сочинять он начал на Майорке. Свои первые произведения Кейдж создал, используя сложные математические формулы. Однако композитор был недоволен результатами и бросил уже законченные пьесы. Связь Кейджа с театром также началась в Европе: во время прогулки по Севилье он заметил, по его собственным словам, «разнообразие одновременных видимых и слышимых событий, движущихся вместе в общем потоке и доставляющих удовольствие»
В 1931 году Кейдж возвратился в США и зарабатывал на жизнь чтением лекций по современному искусству. В 1933 году, подучившись основам композиции, он решил продолжить обучение у корифея европейского авангарда, изобретателя додекафонной системы Арнольда Шенберга, спасавшегося в Лос-Анжелесе от преследования нацистских властей. Шенбергу Кейдж буквально поклонялся, но у него не хватало средств, чтобы оплачивать уроки такого гиганта. Однако, когда Кейдж упомянул об этом, Шенберг спросил его, посвятит ли Кейдж всю свою жизнь музыке. После того как Кейдж ответил утвердительно, Шёнберг предложил обучать его бесплатно.
Кейдж учился у Шёнберга два года, в течении которых учитель ни разу не похвалил сочинений ученика. Однако позднее Шёнберг в интервью сказал, что ни один из его американских учеников не был столь интересен, как Кейдж: «Конечно, он не композитор, но он — изобретатель — из гениальных».
Некоторое время, в 1934–1935 годах, когда Кейдж учился у Шёнберга, он работал в магазине прикладного искусства его матери, где встретил дочь русского православного священника с Аляски художницу Ксению Андреевну Кашеварову. Между ними вспыхнул роман, приведший в 1935 году к экзотической свадьбе в пустыне Аризоны.
Неудовлетворенный ограничениями, налагаемыми традиционной западной тональной системой, Кейдж начал создавать композиции с включением звуков, источниками которых были не музыкальные инструменты, а разные предметы, окружающие человека в повседневности (погремушки, хлопушки), а также звуков, порождаемых такими необычными процедурами, как, например, погружение вибрирующих гонгов в воду. В 1938 Кейдж изобрел т. н. подготовленное фортепиано, в котором под струны подложены разные предметы — бумага, металлические кнопки, монетки, скрепки. В результате рояль превращается в миниатюрный ансамбль ударных. Для «подготовленного фортепиано» он написал многочисленные произведения, вплоть до сонат.
В начале 1950-х годов Кейдж стал вводить в свои композиции алеаторику, то есть случайные элементы, используя при этом разного рода манипуляции с игральными костями, картами и древней китайской книгой для гадания И-цзин. Кейдж первым начал применять алеаторику систематически, сделав ее главным принципом композиции. Он также одним из первых стал использовать специфические звучания и особые возможности изменения традиционных звучаний, получаемые при работе с магнитофоном.
Три наиболее известные композиции Кейджа впервые исполнены в 1952 году.
29 августа 1952 года на благотворительном концерте в Вудстоке пианист Дэвид Тюдор вышел на сцену, поставил на рояль ноты и хронометр. А затем он просто сидел молча и не притрагивался к клавишам. Периодически Тюдор вставал и открывал или закрывал крышку рояля, обозначая таким образом начало и конец каждой из трёх частей произведения. Когда время «исполнения» закончилось, пианист покинул сцену. Так впервые публике было представлено одно из главных сочинений Кейджа «4’33"». Задачей Кейджа было отнюдь не заставить «слушать тишину». Наоборот, он стремился привлечь внимание слушателей к естественным звукам той среды, в которой исполняется 4'33". Скептики обвинили Кейджа в трюкачестве и заметили, что любой мог такое сочинить. "Да, — соглашался Кейдж, — но ведь до сих пор никто не сочинил".
Второе произведение — «Воображаемый ландшафт № 4» (Imaginary Landscape № 4) написан для 12 радиоприемников, и здесь все — выбор каналов, мощность звука, продолжительность пьесы — определяется случайностью. Это сочинение— подлинный апофеоз алеаторики.
Произведение без названия, исполненное в колледже Блэк-Маунтин с участием художника Р.Раушенберга, танцора и хореографа М.Каннингема и других, стало первым в мире произведением в столь популярном в наше время жанре «хэппенинг». Здесь зрелищные и музыкальные элементы сочетаются с совершаемыми одновременно спонтанными, зачастую абсурдными действиями исполнителей. Этим изобретением Кейдж оказал заметное влияние на целое поколение деятелей искусства, усвоившее его взгляд: все происходящее, все, случающееся одновременно может рассматриваться как театр, и этот театр равен жизни. Как у Шекспира: All the world's a stage…