Малер родился 7 июля 1860 года в чешском местечке Калишт в семье мелкого еврейского торговца, сменившего за свою жизнь немало профессий. Поначалу он был возчиком, но колеся по округе, набирал с собой кипу книг, которыми зачитывался, порою забывая править лошадьми. Таким образом он сумел даже выучить французский язык! Потом он был домашним учителем, рабочим на фабрике, а когда родился его второй ребенок, Густав, перебрался в Йиглаву и открыл лавку: пора было думать, как обеспечить растущую семью.
С раннего детства мальчик страстно полюбил народные песни, звучавшие вокруг, — песни многих народов лоскутной австрийской империи: австрийские, чешские, венгерские, цыганские, словацкие и т. д. Когда ему было 4 года, родители с изумлением обнаружили, что он знает наизусть более четырехсот различных напевов, причем не только узнает их, но правильно поет и наигрывает на губной гармонике. И несмотря на материальные трудности, решено было учить его музыке. С 6 лет Густав начал заниматься на фортепиано у местного капельмейстера Жижки. Мальчик делал такие быстрые успехи, что в 8 лет сам стал давать уроки, а в 10 состоялся его первый публичный концерт в Йиглаве. К тому времени появились и первые композиторские опыты.
В гимназии мальчик учился ровно, но без особой охоты, зато зачитывался книгами, особенно любил стихи Гейне и Эйхендорфа. Будущее было неясно — семья росла, один за другим рождались дети. Их было бы двенадцать, если бы пятеро не умерли. В доме все время не хватало денег, и не удивительно, что несмотря на несомненный дар Густава, родители не знали, как поступить. Сомнения разрешил знакомый, имевший большой авторитет в доме. Услышав, как мальчик играет сонату Бетховена, он дал рекомендательное письмо к профессору Венской консерватории Ю. Эпштейну. В 15 лет будущий композитор приехал в Вену.
Юноша учился в консерватории, одновременно занимался в университете, где прослушал курсы истории, философии, истории музыки. В консерватории он занимается у Эпштейна (фортепиано), Р. Фукса (гармония и контрапункт), Т. Крейна (композиция). Каждый год на студенческих конкурсах он получает первые премии и как композитор и как пианист. Ему сулят блестящую исполнительскую карьеру: он может стать пианистом такого масштаба, как Лист или Антон Рубинштейн. К композиторским данным относятся более сдержанно, его поиски не встречают отклика в консерватории. Настоящее понимание он находит в университете, где с 1868 года гармонию, контрапункт и органную игру преподает А. Брукнер. Малер не стал его учеником в прямом смысле — не брал у него уроков. Однако старательно посещал все его лекции, навещал старого профессора дома, сопровождал на концерты. Они стали настолько близки, что Малера называли «приемным сыном» Брукнера. Малер поддержал его и в тот тяжкий день, когда провалилась Третья симфония, посвященная кумиру обоих музыкантов Вагнеру. Юноша был в восторге от этой музыки и даже сделал ее фортепианное переложение.
Окончив консерваторию в 1878 году, Малер продолжает еще год посещать университет, чтобы систематизировать свои знания. Он поглощает множество книг: его привлекают биология и психология, он с увлечением читает Гете, Шиллера, Гельдерлина, Э. Т. А. Гофмана, в особенности же — Жан-Поля, надолго оставшегося властителем его дум.
Живется молодому музыканту очень трудно. Он бегает по урокам, живет в дешевых комнатушках, ищет случайных заработков. Летними каникулами нанимается дирижировать на курортах, где идут оперетты, фарсы, водевили. К 1880 году им написано уже довольно много музыки — фортепианные квинтет и квартет, скрипичная соната, опера «Герцог Эрнст Швабский», Северная симфония, Сюита для фортепиано, песни и кантата для солистов, хора и оркестра «Жалобная песнь». На нее композитор возлагает большие надежды и представляет на бетховенский конкурс. Он рассчитывает, что, получив премию в 600 гульденов, сможет на некоторое время избавиться от угнетающих поисков заработка и отдастся творчеству. Но жюри, в состав которого входили крупные музыканты, в том числе выдающийся композитор Брамс, несколькими годами ранее горячо поддержавший Дворжака, отклонило сочинение Малера. Приверженец классических традиций в искусстве, Брамс не воспринял новаторской по сути музыки, представленной на его суд. Это решило судьбу молодого музыканта.
Он бы мог рискнуть остаться в Вене, вести полуголодное существование ради творчества. Но здоровье отца ухудшалось, ему была необходима помощь. Старший после отца мужчина в семье, Малер не мог оставить без поддержки мать, братьев и сестер. И не теряя времени он стал подыскивать работу. Ему предложили место дирижера в оперном театре Лайбаха (ныне Любляна). Там он провел один сезон — 1881/82 годов. Следующий ангажемент привел его в Моравию, в город Ольмюц (ныне Оломоуц), осенью 1883 года он получает место второго дирижера в оперном театре Касселя.