Между тем, в середине мая 1929 года в Атлантик-Сити произошло знаменательное событие: 27 представителей американской мафии Нью-Йорка, Чикаго, Детройта, Кливленда, Филадельфии, Бостона, Сент-Луиса и Нового Орлеана прибыли на первый в своей истории съезд, на котором они официально поделили сферы влияния и договорились о взаимной помощи и сотрудничестве. Так родился "Сицилийский союз", или знаменитая "Коза ностра" ("Наше дело"). Этот съезд стал примирительным после почти пятилетней войны между различными кланами, в результате которой погибло около 500 гангстеров.
После съезда, дабы показать соратникам из других кланов, что он способен унять собственную гордыню, Аль Капоне нарочно садится в тюрьму на 10 месяцев. Случилось это в Филадельфии, где Аль Капоне был «задержан» за незаконное ношение оружия. Срок он отбывал в тюрьме Хольмсбург, где был устроен на должность тюремного библиотекаря.
Весной 1930 года Аль Капоне вернулся в Чикаго к ждавшим его соратникам: брату Ральфу, который временно занимал его пост, любимой женщине Морин Фланнери. Однако оказалось, что, уехав из Чикаго в одно время, вернулся он совсем в другое. Государство всерьез решило заняться мафией, и первым в списке оказалось имя Аль Капоне. В Чикаго по личному распоряжению президента Г. Гувера прибыла группа служащих министерства юстиции во главе с Элиотом Нессом, которая начала активно копаться в финансовых делах Аль Капоне. Тот, однако, продолжал чувствовать себя в безопасности, надеясь, что и в этом случае деньги и связи сделают свое дело (на подкуп полиции Чикаго Аль Капоне тратил ежегодно 15 тысяч долларов).
Тем временем в том же году американский кинематограф впервые обращается к личности знаменитого бандита: режиссер Г. Хоукс начинает снимать фильм "Лицо со шрамом". Роль Аль Капоне должен был исполнить актер Пол Муни. Узнав об этом, Аль Капоне пришел в ярость. Он решил, что в фильме он будет представлен совсем в неприглядном виде и пообещал Голливуду всяческие кары. Напуганные кинодеятели тут же приехали в Чикаго для встречи с Аль Капоне. О чем шла речь так до сих пор толком и неизвестно. Фактом является лишь то, что в 1932 году фильм "Лицо со шрамом" увидел свет и имел колоссальный успех. Однако Аль Капоне к тому времени был уже в тюрьме.
Налоговые инспекторы установили, что в период с 1925 по 1929 год он уклонялся от уплаты подоходного налога. Было обнаружено около пяти тысяч таких фактов. Аль Капоне попытался откупиться огромными взятками, однако впервые это не дало положительного результата.
Первое слушание дела состоялось 16 июня 1931 года, и перед судом присяжных предстали Аль Капоне, его брат Ральф и еще 68 других мафиози. По совету своих адвокатов, Аль Капоне не стал отрицать своей вины и признался во всех 5000 случаев уклонения от уплаты налогов. Суд, приняв это во внимание, пошел навстречу и согласился с тем, что Аль Капоне погасит задолженность и выплатит государству 5 миллионов долларов. За этот залог судьи разрешили Аль Капоне временно выйти на свободу.
Оказавшись на воле, но, зная, что битва еще не окончена, Аль Капоне предпринял ряд шагов, которые, по его мнению, должны были вызволить его из беды. Он организовал в Чикаго бесплатную столовую для безработных. Каждое утро он приезжал к ее открытию, беседовал с посетителями, внимательно выслушивал их жалобы и многочисленные просьбы — рейтинг Аль Капоне среди определенной части населения города стремительно пополз вверх.
Однако второе заседание суда, которое открылось 30 июля, было уже совершенно иным: судьи ни на какие уступки подсудимым не шли, но стараниями адвокатов слушание дела было отложено до октября.
А в конце сентября в Чикаго бандиты похитили Линча — богатого владельца конюшен скаковых лошадей. Друзья похищенного отправились не в полицию, а к Аль Капоне. Тот тут же поднял на ноги своих людей, и через несколько часов Линч был возвращен семье живым и невредимым.
Однако вскоре поползли слухи о том, что Аль Капоне сам и подстроил это похищение, дабы в дальнейшем прослыть героем. Как только эти разговоры дошли до Аль Капоне, он собрал открытую пресс-конференцию, на которой выступил с опровержением этих слухов. Говорил он убедительно, но повернуть общественное мнение ему уже было не под силу.
Во время третьего слушания (13 октября 1931 года) суд вынес окончательный приговор: Аль Капоне был признан виновным в уклонении от уплаты налогов и приговорен к 11 годам тюрьмы и уплате 50 тысяч долларов штрафа. 3 мая 1932 года приговор был окончательно подтвержден высшей судебной инстанцией США.
К тому времени Аль Капоне находился в одной из камер тюрьмы в округе Куб, где чувствовал себя настолько свободно, что продолжал руководить своей бандой. И тогда его перевели сначала в тюрьму в Атланте, штат Джорджия, а затем — в мрачную тюрьму Алькатраз на острове в заливе Сан-Франциско. Там он кроил брюки из грубой шерстяной ткани, за что получал 7 долларов в неделю. Заключенные относились к нему без уважения и за то, что он частенько мыл полы в коридорах, прозвали "итальяшка со шваброй". Однажды Аль Капоне отказался поддержать забастовку заключенных, и один из забастовщиков ударил его ножницами в спину. Но удар оказался не смертельным.
Между тем былая распутная жизнь догнала Аль Капоне в заключении. В нем проснулся дремавший сифилис, что привело вскоре к параличу. 7 января 1939 года его перевели из мрачного Алькатраза на остров Терминал. Об этом не сообщила ни одна газета и это было симптоматично: некогда знаменитого бандита многие уже успели забыть.
В 1940 году окончательно добитый болезнью Аль Капоне был выпущен из тюрьмы условно-досрочно и уехал доживать в свой дом во Флориде. Он был уже практически невменяемым, ухаживать за ним вызвалась его жена, кстати, тоже больная сифилисом.
17 января 1947 года Аль Капоне отметил свое 48-летие и через восемь дней скончался от сердечного удара. Как писала в те дни пресса, "ушел из жизни преступник, по приказам которого было убито около 400 человек и 40 человек он убил собственноручно".
В отличие от других подобных процедур, на похоронах Аль Капоне было немноголюдно. Они прошли в Чикаго на кладбище Маундолевет. Однако затем толпы туристов буквально аккупировали скромную могилу "главного бандита Америки", и в 1952 году родственники перенесли его останки на другое кладбище.