Став председателем Совета Министров, Витте сразу же включился в борьбу за сосредоточение в своих руках всей полноты исполнительной власти. Это было вызвано тем, что указ от 19 октября фактически вывел из подчинения Совмина и его председателя министерство иностранных дел, военное и морское министерства. За контроль над ними пришлось бороться и преемникам Витте.
В числе важнейших забот Сергея Юльевича на новом посту стало получение крупного международного займа, который позволил бы восстановить финансовую систему страны, подорванную в результате войны с Японией и разразившейся революции. В начале апреля 1906 года такой займ в размере более 2 млрд франков был получен. Это обстоятельство сделало дальнейшие услуги Витте российскому престолу излишними.
Итоги (даже не окончательные) проходивших в марте-апреле 1906 года выборов в I Государственную Думу оказались для Николай II и его окружения ошеломляющими: они засвидетельствовали преимущество представителей «крайних элементов», а не тех «благонадежных» сил, на успех которых рассчитывал царь. Такой оборот дела привел к поиску виновного в происшедшем, которого мстительно увидели в Витте как инициаторе конституционных реформ.
Над Сергеем Юльевичем нависла угроза отставки. Повод для нее он не замедлил подать сам. В первой половине апреля 1906 года Николай II провел в Царском Селе серию совещаний, посвященных рассмотрению Основных законов Российской империи. На заключительном совещании 12 апреля Витте имел неосторожность ввязаться в полемику по вопросу о возможности принудительного отчуждения земли. Хотя Сергей Юльевич не был сторонником этой меры, но считал допустимым провести обсуждение ее в Думе как часть крестьянского вопроса.
Николай II был крайне разгневан и возмущен позицией Витте, и Сергею Юльевичу, не дожидаясь увольнения, пришлось подать 14 апреля в отставку. Уже на следующий день она была принята. Сергей Юльевич пробыл, таким образом, на посту Председателя Совета Министров всего полгода: с октября 1905 года по апрель 1906 года.
Уход Витте вдогонку был обставлен неожиданными почестями. 22 апреля последовал высочайший рескрипт на его имя, в котором отмечались заслуги Сергея Юльевича в борьбе с «крамольниками», в подготовке и открытии законодательных учреждений и в получении внешнего займа. Первый в XX столетии председатель Совета Министров России был награжден также орденом. В рескрипте императора по этому поводу сказано: «Снисходя на принесенную вами всеподданнейшую просьбу, я испытываю сердечную потребность выразить вам мою искреннюю признательность за многочисленные услуги, оказанные вами родине, в воздаяние коих жалую вас кавалером ордена святого благоверного Александра Невского с бриллиантами».
Орден орденом, однако больше к рычагам государственной власти Сергей Юльевич допущен не был. Ему высочайше обещали должность посла, но царское обещание оказалось невыполненным. После гибели в 1911 году Столыпина Сергей Юльевич надеялся, что о нем вспомнят и призовут во власть, но этого тоже не произошло. Николай II не мог простить ему инициативы в принятии манифеста 17 октября 1905 года, который император был вынужден подписать тогда под тяжестью обстоятельств, согласившись на превращение самодержавия в конституционную монархию.
Размышляя о судьбе выдающегося отечественного государственного деятеля А. Ф. Кони свидетельствовал, «как тяжело жилось в последние годы графу Витте, лишенному возможности влиятельного почина и организаторского участия в делах государственного управления. Он и его творческие способности были осуждены — говоря словами Пушкина — на «бескрылые желанья». Это должно было его в особенности мучить…»
Сергей Юльевич успел написать впечатляющие по объему мемуары, содержание которых вызывало тревогу и подозрения царского окружения и до, и после кончины их автора.
Витте скончался 28 февраля 1915 года в Петрограде. По свидетельству журнала «Исторический вестник», он был похоронен на кладбище Александро-Невской лавры весьма скромно, «по третьему разряду».
В его рабочем кабинете провели обыск, но мемуаров не нашли. Не были они обнаружены и на его вилле во Франции. Эти мемуары опубликовали уже после гибели последнего русского монарха, намеревавшегося во что бы то ни стало познакомиться с ними. Благодаря им Сергей Юльевич Витте, бывший одним из главных действующих лиц эпохи Николая II и его отца — Александра III, стал и одним из самых заметных летописцев того времени.