Теперь можно было переходить к организации крупномасштабного производства сахара. Будучи хорошо осведомленным обо всех агрономических и технических новинках в этой отрасли, Иван Герасимович первым из сахарозаводчиков отделил производство сахара-песка от сахара-рафинада. Первый собственный сахарный завод Харитоненко построил в 1866 году в с. Кияница на Сумщине. Вслед за ним появилось такое же предприятие в с. Красная Яруга на Белгородщине. Потом он выкупил и переоснастил Пархомовский завод в Харьковской губернии. Благодаря внедрению на нем более современной технологии и оборудования предприятие стало вырабатывать за один сезон более чем на полтора миллиона рублей сахара и патоки. При заводе был устроен магазин для рабочих, которые в счет зарплаты могли получать талоны на покупку необходимых продуктов.
В 1869 году предприниматель создал рафинадный завод в Сумах – самый большой в то время в Левобережной Украине, который назвал в честь сына Павловским. К концу XIX века удельный вес продукции этого предприятия составлял уже 17 % от всего выпускаемого рафинада в стране. Оно вошло в пятерку самых больших заводов сахарной отрасли в Российской империи. Постепенно Иван Герасимович выкупил и все арендуемые им до этого заводы. Особо следует отметить, что все его предприятия были оснащены по последнему слову техники: здесь работали водотрубные паровые котлы, паровые турбины, компрессоры, подвесные канатные дороги, непрерывно действующие механизмы, которые хозяин лично закупал за границей.
В 1884 году Харитоненко купил земли с арендованным им сахарным заводом в слободе Мурафа Харьковской губернии и организовал на них экономию, названную в честь старшей внучки Еленинской. А затем неподалеку от нее приобрел усадьбу Натальевка и поручил своему сыну Павлу Ивановичу заниматься ее обустройством.
Одновременно с этим сахарозаводчик активно скупает большие участки земли для выращивания свеклы. В 1880-е годы ему уже принадлежало 11 экономий и имений в Черниговской, Харьковской, Сумской и Курской губерниях – в общей сложности около 100 тысяч десятин земли. Причем каждое имение имело свою специализацию. Так, в Ульяновском хозяйстве в основном выращивали сахарную свеклу, зерно и кормовые травы. Было здесь и опытное поле с селекционной лабораторией, и мельницы, и фермы племенного скота. Другое имение – Янковское, которое специализировалось исключительно на выращивании сахарной свеклы, в том же году принесло Харитоненко около 150 тысяч рублей чистого дохода. В с. Пархомовка Богодуховского уезда, помимо сахароварни, он построил еще кирпичный и винокуренный заводы, мельницу и одну из первых на Слобожанщине метеостанций.
Но особым предметом гордости предпринимателя были лесные угодья, в которых почти не было вырубок – вместо них проводились работы по засаживанию площадей ценными породами деревьев, саженцы которых выращивались здесь же, в лесопитомнике. Прибыль от этого хозяйства была немалой: только в 1888 году она составила около 105 тысяч рублей. В Курской и Харьковской губерниях Харитоненко владел 10 тысячами десятин, занятыми под прекрасный строевой лес. В одном из декабрьских номеров газеты «Южный край» о лесном хозяйстве сахарозаводчика писали: «…его обширные леса скорее похожи на сады, чем на доходные статьи, у большей части хозяев безжалостно истребляемые». Свое бережное отношение к природе родного края Иван Герасимович выразил даже в завещании: «Я своих лесов не рубил».
Для реализации своей продукции сахарозаводчик создал в конце 1860-х годов Торговый дом «Харитоненко и сын», который имел конторы в Сумах, Одессе, Харькове, Москве, Томске, Владивостоке и Баку. Поставлялся им сахар и за границу: в Персию, Турцию, Китай и Финляндию. Только в 1874 году торговый оборот Торгового дома Харитоненко превысил 20 млн рублей серебром. Такой спрос на продукцию предприятий сахарозаводчика объяснялся ее высоким качеством, отмеченным многочисленными высшими наградами на престижных международных выставках: серебряной медалью в Санкт-Петербурге (1870), медалью за «преуспеяния» в Аене (1873), медалью 1-го класса в Филадельфии (1876), золотыми медалями в Париже (1878 и 1889). А в 1882 году Иван Герасимович получил высочайшее разрешение изображать на своей продукции двуглавого орла и стал купцом 1-й гильдии.