Сам великий князь (по мнению многих современников) был способным композитором и талантливым музыкантом, основательно знакомым с теорией музыки. Сохранились воспоминания об исполнении великим князем в Мраморном дворце в Санкт-Петербурге (его семейном доме) концерта Моцарта и Первого концерта Чайковского; он написал три романса на слова графа А. К. Толстого, Ап. Н. Майкова и Виктора Гюго. Константин Константинович был хорошо знаком с композитором А. Г. Рубинштейном, уговаривал П. И. Чайковского написать оперу на сюжет «Капитанской дочки» А. С. Пушкина.
С 1887 г. Константин Константинович почетный член, а с 3 мая 1889 г. и до конца жизни Президент Санкт-Петербургской Императорской Академии наук. Великий князь сделал в это время (2 мая 1889 г.) следующую любопытную запись в дневнике: «Мое тщеславное самолюбие было в высшей степени польщено, но вместе с тем я немало смутился при мысли о таком высоком положении. Отказываться я не имею причин. Вечером, после обеда, я улучил минуту поговорить с Государем с глазу на глаз. Я спросил его, как он смотрит на сделанное мне предложение. Государь ответил мне, что он ему рад, сказал, что президент — великий князь может стать выше всяких интриг, выразил желание, чтобы я принял это звание, и пожал мне руку. Величие, истинно духовное величие, сопряженное с внешним почетом, всегда имело для меня обаяние и само осеняет меня. С Богом, в добрый час. С Богом». На следующий день, 3 мая император Александр III подписал соответствующий указ. Константину Константиновичу довелось находиться во главе Императорской Академии наук долгих 26 лет. При содействии великого князя в Академии наук осуществлен ряд крупных научных и культурных проектов: был открыт Зоологический музей в Санкт-Петербурге, новые лаборатории и обсерватории, организованы научные экспедиции, в том числе Шпицбергенская экспедиция для градусного измерения (1898), полярная экспедиция для исследования архипелага, лежащего к северу от Новосибирских островов. Экспедиции в Монголию, на Памир и в Тянь-Шань вызывали у англичан опасения о проникновении Российской Империи на Тибет. По ходатайству К. Р. была учреждена академическая комиссия по распределению пособий и пенсий между нуждающимися учеными, их вдовами и сиротами (50 000 рублей в год). По его просьбе в 1911 г. правительство выкупило имение «Ясную Поляну» у наследников писателя графа Л. Н. Толстого, сохранив его для России. Великий князь Константин Константинович обладал большим чувством такта, особенно когда в Академии наук намечались разногласия между ее членами. Порой бывали и неприятные ситуации. Так, например, генерал от инфантерии Н. А. Епанчин писал в своих мемуарах: «Когда я однажды спросил великого князя Константина Константиновича, Президента Академии наук, почему Менделеев не избран членом Академии, то он сконфузился и, по своему обыкновению, сказал что-то неопределенное». (Епанчин Н. А. На службе трех Императоров. Воспоминания. М., 1996. С. 72.) Известно, что знаменитый ученый-химик Д. И. Менделеев (1834–1907), профессор Петербургского университета ушел в отставку в знак протеста против притеснения студенчества. Он с 1876 г. являлся членом-корреспондентом Академии наук. Еще в 1880 г. Менделеев выдвигался в академики, но был забаллотирован, что вызвало резкий общественный протест. В дневнике великого князя Константина Константиновича от 21 ноября 1889 г. имеется запись: «Бекетов приходил хлопотать по своей лаборатории. Я заговорил с ним об избрании Менделеева, которое до сих пор представляет большие затруднения после того, как его года три-четыре назад забаллотировали. Но теперь многое изменилось, хотя еще нельзя поручиться, что две трети голосов первого отделения будут за него. Я всячески буду стараться провести Менделеева в Академию, что значительно подняло бы ее в глазах общественного мнения». Стоит отметить, что не все зависело только от пожеланий и действий Константина Константиновича.
Важными начинаниями великого князя являлись: организация празднования 100-летия со дня рождения А. С. Пушкина, учреждение фонда великого поэта для издания сочинений русских писателей, словаря русского языка и других трудов. В 1899 г. он возглавлял Пушкинский юбилейный комитет. По его инициативе был создан Пушкинский Дом (ныне — Институт русской литературы РАН). Он возглавлял несколько академических комиссий, и прежде всего комиссию по реформе русской орфографии. Еще с 1904 г. комиссия начала разрабатывать проект реформы, позднее практически полностью скопированный большевиками и известный как советский декрет «О введении новой орфографии». На самом деле у истоков этого проекта стоял великий князь Константин Константинович. По его инициативе в Академии наук был учрежден разряд (отделение) изящной словесности и в 1900 г. избраны первые 9 почетных академиков разряда (в их числе сам Константин Константинович, граф Л. Н. Толстой, А. П. Чехов, А. Ф. Кони, В. Г. Короленко и др.).