Когда умер его отец, в 1429 году, Козимо был уже опытным дельцом. С 1420 года он руководит банком Медичи. Вскоре его увлек водоворот политического соперничества. После того как Флоренция проиграла в войне с городами Луккой и Миланом, наступило время открытой вражды Медичи с соперничавшим с ними родом Альбицци, предводителем флорентийских патрициев. В 1433 году Ринальдо Альбицци подстроил тюремное заключение Козимо. Враги предполагали вынести ему смертный приговор, однако после месяца дебатов городские власти Флоренции приняли постановление об изгнании всей семьи. Чтобы укрепить свои позиции, Ринальдо Альбицци ограничил количество граждан, имевших право занимать посты в городской администрации. Правление Альбицци продолжалось недолго. Непопулярная налоговая политика, а также неудачи во внешней политике подорвали позиции партии патрициев. На стороне Медичи выступил также папа Евгений VI, чья резиденция в то время находилась во Флоренции и чьи финансовые интересы были связаны с банком Медичи. А тем временем Козимо своим достойным поведением и щедростью снискал себе в изгнании всеобщее признание. Его пригласили вернуться, и он прибыл во Флоренцию 6 октября 1434 года. По решению властей он вошел в город ночью, через боковые ворота и с малочисленной свитой, и все равно народ устроил ему триумфальный прием.
В ТЕЧЕНИЕ 30 ЛЕТ КОЗИМО СТАРШИЙ БЫЛ ФАКТИЧЕСКИМ ПРАВИТЕЛЕМ ФЛОРЕНЦИИ. СОВРЕМЕННИКИ СРАВНИВАЛИ ЕГО С ПЕРВЫМ РИМСКИМ ИМПЕРАТОРОМ ОКТАВИАНОМ АВГУСТОМ. ИМЕННО ОБ ЭТОМ СВИДЕТЕЛЬСТВОВАЛ ПОЧЕТНЫЙ ТИТУЛ PATER PATRIE (ОТЕЦ ОТЕЧЕСТВА), КОТОРЫМ ФЛОРЕНТИЙСКИЕ ВЛАСТИ НАГРАДИЛИ КОЗИМО СТАРШЕГО ПОСМЕРТНО.
Возвращение Козимо Старшего стало началом его фактического правления во Флорентийской республике, которое и продолжалось до самой его смерти. Его противники во главе с родом Альбицци были осуждены на изгнание. Излишних изменений в традиционном устройстве государства Медичи не вводил, брал за образец методы противников, однако тщательно следил за тем, чтобы должности получали верные ему люди. Сам он довольно редко занимал должности в правительстве, а те, что занимал, обычно были связаны с финансами — в чем, разумеется, обнаруживались его личные интересы. Кроме того, Козимо Старший обычно избегал помпы и пышности, держался в тени, одевался демонстративно скромно, а также выказывал несколько преувеличенное почтение по отношению к должностным лицам. Однако в действительности все существенные решения, имевшие отношение к городу и жизни горожан, зависели от него.
Заботами Козимо Старшего Флоренция переживала период политического, экономического и культурного расцвета. Сильный властитель стремился проводить мирную политику, опиравшуюся на союз с Миланом. Настоящим триумфом Медичи стало перенесение во Флоренцию в 1439 году Церковного собора, который до этого заседал в Ферраре, где разразилась эпидемия (Козимо склонил к этому Папу обещанием финансировать пребывание курии в городе). В городе-государстве Медичи в 1439 году была подписана Флорентийская уния, в теории подтвердившая единство Западной и Восточной церквей (хотя установления Унии остались только на бумаге). Присутствие во Флоренции папы Евгения VI, византийского императора Иоанна VIII Палеолога, а также константинопольского патриарха Иосифа вместе с их окружением и свитой повысило престиж города. Прибытие с Востока большого числа ученых стало импульсом для расцвета Флоренции как центра гуманитарных наук.
КОЗИМО ЧАСТО ПРИГЛАШАЛ УЧЕНЫХ В СВОЮ ЗАГОРОДНУЮ ВИЛЛУ В КАРЕДЖИ И ОХОТНО С НИМИ ДИСКУТИРОВАЛ. РЕЗУЛЬТАТОМ ЭТИХ ВСТРЕЧ СТАЛА ТАК НАЗЫВАЕМАЯ ПЛАТОНОВСКАЯ АКАДЕМИЯ, ВНЕСШАЯ ЗАМЕТНЫЙ ВКЛАД В РАЗВИТИЕ ЕВРОПЕЙСКОЙ МЫСЛИ.
Личные пристрастия побудили Козимо Старшего покровительствовать гуманистам, среди которых были философ Марсилио Фичино и грек Иоанн Аргиропулос. Сам властитель любил книги и античные рукописи, которые составили его внушительную коллекцию. В своих пристрастиях он обнаруживал недюжинный художественный вкус. Он поддерживал также таких выдающихся личностей, как архитекторы Филиппо Брунеллески и Микелоццо Микелоцци, скульпторов и золотых дел мастеров Джильберти и Донателло, художников Филиппо Липпи и Фра Анджелико. Многие из них были его добрыми друзьями. Значительные финансовые средства он передавал на поддержку церквей и монастырей, больниц и приютов. Однажды щедро одаренные монахини из монастыря Сан-Марко вознамерились «скромно» протестовать. Рассказывают, что Козимо им тогда ответил: «Никогда я не смогу дать Богу столько, чтобы вписать Его в книгу моих должников».