В Петербурге товарищи по партии помогли Василию Андреевичу снять небольшую квартиру в знаменитом «кадетском доме» № 7 на Потемкинской улице. Здесь, совсем рядом с Таврическим дворцом, он проживет три года со второй женой, Ольгой Ивановной, вплоть до своей смерти в декабре 1910 года.
В III Думе В.А. Караулов вошел во фракцию конституционных демократов и – одновременно – в «Сибирскую парламентскую группу», которая также находилась под кадетским влиянием. Он активно работает в комиссиях по вопросам вероисповедания (председатель – правый епископ Евлогий, затем октябрист П.В. Каменский), по делам Православной церкви (председатель – октябрист, затем член фракции националистов В.Н. Львов) и местному самоуправлению (председатель – лидер умеренно правых, затем националистов П.Н. Балашов). Однако наибольшую известность, как в стенах Думы, так и в обществе, принесло ему председательство в комиссии по старообрядчеству. В нее вошли также известные политические деятели различных направлений: лидеры октябристов А.И. Гучков и М.Я. Капустин, влиятельный кадет В.А. Маклаков, епископ Евлогий (Георгиевский), ультраправый Г.А. ГЦечков и др.
Отдавая много времени работе в комиссиях, конституционалист Караулов твердо придерживался линии на конструктивную работу с другими думскими фракциями и правительством, на так называемую органическую работу, часто повторяя: «Лучше маленькая рыбка, чем большой таракан». И эти усилия принесли успех: он фактически стал основным экспертом и оратором либеральной части Думы по вероисповедным вопросам, оказавшимся в 1907–1910 годах в центре внимания народного представительства.
Уже в ходе первой сессии III Думы, в конце 1907 – начале 1908 года, сибирский депутат показал себя влиятельным парламентарием, органично соединившим в себе глубокую христианскую религиозность с неменьшей верой в либеральные права и свободы человека. Для молодого российского парламента это было необычно: религиозную тематику всегда активно эксплуатировали правые, в то время как левые, рассуждая о правах и свободах, как правило, избегали говорить о религии. Именно В.А. Караулов, поначалу чуть ли не в одиночку, сумел организовать в Думе своего рода «центр» – не формальный, а глубоко содержательный, поставив во главу угла идеи «христианского либерализма». Его усилия оценили не только в родной кадетской партии, где практически не было специалистов по вероисповедным вопросам, но и значительное число доминирующих в Думе октябристов, либеральная часть которых быстро разглядела в нем полезного союзника в борьбе с правыми и националистами. Намечающийся идейный союз октябристов во главе с А.И. Гучковым и не чуждающихся вопросов религии кадетов (В.А. Караулова, В.А. Маклакова, В.С. Соколова) быстро принес новому «центру» конкретные кадровые и политические дивиденды. Так, личное оппонирование Караулова – товарища (заместителя) председателя вероисповедной комиссии – ее председателю, правому епископу Евлогию, привело к быстрой отставке последнего и его замене октябристом П.В. Каменским. В свою очередь, октябристы поддержали идею создания отдельной думской комиссии по старообрядческим вопросам и избрание В.А. Караулова ее председателем.
Первым концептуальным выступлением Василия Андреевича в III Думе стала его большая речь 22 марта 1908 года с изложением позиции кадетской фракции по утверждаемой Думой смете Святейшего синода. Высказанные тогда идеи и предложения явились характерным воплощением христианско-либерального мировоззрения Караулова. С одной стороны, он поддержал идею разгосударствления церковной жизни, подчеркнув, что «деятельность правительства в XVIII столетии, в первой его половине, передавшая в распоряжение государства громадное большинство средств церквей и монастырей, была нарушением как гражданского, так и канонического права». Однако, с другой стороны, он решительно высказался в пользу демократизации самой церкви, перенесения центра православной жизни с церковной иерархической субординации на жизнь самоорганизующихся православных приходов. Отметив, что «основа всякой церковной организации – несомненно приход» и что «фактически в настоящее время приходов у нас не существует», оратор обозначил главные проблемы русского православия: «Зло заключается в фактически 2Угвековом уничтожении внутри присущего нашей православной церкви соборного начала, зло заключается в фактическом упразднении основной церковной общественной ячейки – прихода, потому что мы имеем церковь как здание, имеем священников, но не имеем приходов как общественной организации. Зло заключается в том, что у нас в настоящее время церковь мыслится не как союз верующих, а как иерархия, да вдобавок еще подчиненная государству. Вот устранение этих зол и будет снятием тяжелой государственной руки, и, я сказал бы, нечистой для этого дела, государственной руки со святого дела церкви». От имени кадетской фракции Караулов призвал увеличить правительственное финансирование именно приходов, ибо это «является первым шагом к освобождению церкви из пленения вавилонского государства, оно является первым шагом к восстановлению утраченного церковью соборного начала и первым шагом к учреждению прихода как общественно-церковной организации. (Рукоплескания в центре и слева.)»