Вскоре парусиновые палатки в Сиднейской бухте сменились кирпичными и деревянными домами. Филлип пытался выстроить поселок по строгому плану, но единообразие было чуждо духу его непутевых обитателей. Протоптанные ими тропинки скоро превратились в улицы и, невзирая на позднейшие поползновения внести некий порядок в городской план, удобные для пешеходов извилистые проходы до сего дня угадываются в сетке улиц современного Сиднея небоскребов.
Сидней-таун рос вширь, к западу, в сторону плодородных угодий Парраматты, но его экспансия сдерживалась неприступными склонами Голубых гор. Следопыты, откликаясь на зов бескрайних просторов суши и моря, открывали новые пастбища и приходные для пахоты земли и даже совсем глухие природные «тюрьмы строжайшего режима» — например на острове Норфолк — для особо опасных преступников, совершавших преступления уже в австралийской ссылке. Поначалу англичане предполагали, что Норфолк станет стратегическим поставщиком льна, пеньки и мачтового леса для тихоокеанских торгового и военно-морского флотов. Но план не осуществился, и острову было уготовано стать пыточной камерой на радость тюремщикам-садистам.
Новый Южный Уэльс обходился английской казне весьма дорого (за первые 12 лет его освоения был истрачен 1 миллион фунтов), но зато новая колония приносила немалую прибыль местным землевладельцам и офицерам Ново-южно-уэльского корпуса, который прозвали «Ромовым корпусом». Корпус решительно боролся с грабительскими поборами капитанов торговых судов, в то же время создавая свои собственные монополии. Колония стала в полном смысле пьяным притоном, а спрос на бенгальский ром — его торговлю контролировал корпус — был столь велик, что в колонии он стал едва ли не местной валютой.
Ад земной. Для наведения порядка в «пьяную колонию» был назначен губернатор Уильям Блай. Ему в обязанности также вменялось организовать приезд в Сидней вольных переселенцев. Однако «Ромовый корпус», подстрекаемый фермером-офицером Джоном Макартуром, поднял мятеж и в 1808 г. снял Блая с должности.
Новый Южный Уэльс и его поселения-спутники для особо опасных преступников в Мортон-Бей (нынешний Брисбен), на острове Норфолк и на Земле Ван Димена (нынешняя Тасмания) вошел в XIX в., имея славу «ада земного» причем австралийские англичане надеялись, что столь прискорбная репутация отвадит от их владений нежелательных пришельцев.
Судьба свела в Австралии ирландских мятежников из подпольных террористических групп и мелких городских воришек, осужденных за кражу буханки хлеба. Для них смерть на виселице была бы большим милосердием. Некоторые беглецы из «британского ГУЛАГА» стали первыми исследователями австралийской земли. Отчаявшиеся узники убегали в буш, полагая, что сразу за отрогами Голубых гор лежит желанный Китай или что в глубине материка расположены колонии вольных белых. На острове Норфолк единственно верным путем спасения от патологически жестоких тюремщиков было совершение убийства — в любом случае убийцу уж точно ожидала виселица.
Словом, в колонии процветали алчность, коррупция, жестокость, публичные порки. Вместе с тем эти эксцессы сдерживались прогрессивными реформами губернатора Лаклана Макуэйри (1810-21), упованием некоторых эмансипистов (освобожденных преступников) на торжество морали и справедливости, а также повышением уровня жизни, что стало возможным благодаря развитию торговли. Макуэйри — аристократ, исповедовавший принципы патернализма — подорвал монополию «Ромового корпуса» на импорт алкоголя, ввел собственную валюту колонии (в 1813 г.), открыл первый банк (1817 г.) и благословил первую экспедицию через Голубые горы (в 1813 г.). Его программа общественных работ и градостроительства (за 11 лет было реализовано 265 проектов) многим обязаны эмансиписту Франсису Гринвею, который был осужден как фальшивомонетчик, доставлен в кандалах в Сидней и впоследствии стал ведущим архитектором колонии.
В 1868 г. в Австралию на поселение прибыла последняя партия преступников. К тому времени на континент было перевезено более 160 тыс. чел., из них лишь 25 тыс. женщин — такая диспропорция на многие десятилетия вперед обусловила природу грубого, «мужецентричного» австралийского общества.