Шесть республик — Грузия, Литва, Молдавия, Латвия, Армения и Эстония — отказались проводить референдум на своей территории. Российское руководство также критиковало этот замысел, указывая прежде всего на то, что вынесенная на голосование формулировка вопроса содержит не один, а несколько вопросов, а это способно исказить волю граждан, имеющих разные ответы на фактически различные вопросы. Одновременно в России объявляется свой референдум об учреждении в республике института президента. Введение этого поста было призвано укрепить ее суверенитет. В условиях того времени это означало усиление центробежных тенденций, так как суверенитет понимался преимущественно как обособление.
Всего на участки для голосования пришли 80% граждан, имевших право участвовать в референдуме. Из них 76,4% ответили на вопрос референдума «да», 21,7% — дали отрицательный ответ. Около 2% бюллетеней были признаны недействительными. Результаты голосования в РСФСР выглядели несколько парадоксально: с одной стороны, 71,3% участников проголосовали за сохранение Союза в горбачевской формулировке, а с другой — почти столько же (70%) высказались за введение в республике поста президента. Итоги референдума по России трудно было трактовать как победу замысла Президента СССР. Во-первых, республика находилась на предпоследнем месте по проценту положительных ответов, меньше (70,2%) было только у Украины. Во-вторых, они говорили о высоких шансах Ельцина на победу на грядущих выборах. Все это не сулило мира в отношениях между двумя центрами власти.
Интеграционный ресурс результатов референдума был ослаблен не только в России. На Украине по постановлению Верховного Совета УССР одновременно с общесоюзным референдумом проводился опрос населения по вопросу «Согласны ли вы с тем, что Украина должна быть в составе Союза советских суверенных государств на началах Декларации о государственном суверенитете Украины?» Количество граждан, ответивших «да» на вопрос республиканского бюллетеня, составило 80,17%, т.е. больше, чем высказалось за Союз. Это подтверждало базовую идею Декларации о приоритете украинских законов над союзными, что практически исключало создание нового федеративного государства с полноценным участием Украины. «Отличился» и Казахстан: его власти вместо союзной предложили свою формулировку вопроса референдума: «Считаете ли вы необходимым сохранение Союза ССР как Союза равноправных суверенных государств?» Положительный ответ в республике дали 94% голосовавших.
Итоги референдума дали возможность Президенту СССР продолжить попытки возобновить разработку нового союзного договора, чтобы завершить ее в сжатые сроки. Началась подготовка третьего с весны 1990 г. проекта. Политическая инициатива с конца 1990 г. целиком перешла к республиканским элитам, влияние центральных структур было ослаблено. В этих условиях Горбачев переориентируется на прямой диалог с республиканскими лидерами, игнорируя позицию высших органов власти СССР. Теперь успех переговоров мог быть достигнут лишь при молчаливом согласии Президента СССР на конфедеративное устройство будущего Союза, хотя это означало отход от позиции, зафиксированной референдумом. Президент СССР пытался хоть как-то задержать продолжающийся развал страны. Республики же требовали себе все новые полномочия, до предела усекая власть Центра. Решая свои весьма различающиеся задачи, стороны, однако, не могли полностью игнорировать итоги референдума и поэтому в своей риторике активно использовали понятия «единое союзное государство», «федерация», в правовом же плане все более отходя от них.
Все это ярко проявилось в так называемом новоогаревском процессе (от названия резиденции в подмосковном поселке Ново-Огарево, где проходили переговоры), первый этап которого продолжался с 23 апреля по 23 июля 1991 г. Переговоры лидеров республик проходили очень трудно. Как вспоминал их участник А. И. Лукьянов, даже последнее заседание 23 июля, где обсуждался итоговый вариант договора об С С Г, было неконструктивным. К договору были готовы присоединиться лишь 8 из 15 союзных республик.
В результате, одобрив в целом проект, участники встречи пришли к выводу о целесообразности подписать договор в сентябре— октябре на съезде народных депутатов СССР. Горбачев поддержал такой порядок его подписания. Однако 29—30 июля 1991 г. в НовоОгарево прошли закрытые встречи Горбачева с Ельциным и Назарбаевым, где союзный президент предложил президентам России и Казахстана начать подписание проекта не в сентябре—октябре, а 19 августа. Республиканские лидеры согласились с этой идеей, ибо понимали, что проект договора в последней редакции не пройдет в Верховном Совете СССР и уж тем более на союзном съезде народных депутатов. А поскольку в августе парламентарии были на каникулах, то время для подписания «нужного» проекта представлялось удачным. В обмен на согласие республиканских лидеров Горбачев принял требование Ельцина об одноканальной системе поступления налогов в бюджеты. Горбачев согласился произвести перестановки в высшем эшелоне союзной власти: замене подлежали В. С. Павлов, В. А. Крючков, Д. Т. Язов, Б. К. Пуго, Г. И. Янаев. Это были люди, которые в июне—июле 1991 г. активно выступали за принятие энергичных мер по сохранению СССР. 4 августа Горбачев отправился в отпуск в Крым.