В Москве расширяется и его сионистская деятельность. Шимон руководит московским сионистским центром и на его деньги издаётся журнал "СФАТЕЙН". В доме Великовских встречались посланцы сионистских организаций, проводились собрания. Шимон руководил сбором средств на покупку земли в Палестине для евреев-переселенцев из России. В 1884 году он направляет туда своего посланца и в пустыне Негев был куплен участок для одной из первых сельскохозяйственных станций, которой Шимон дал имя "РУХАМА", что означает "помилованная", "удостоившаяся милосердия", "возлюбленная". Впоследствии на этом месте возник киббуц с одноименным названием. На покупку земли Шимон Великовский пожертвовал огромную по тем временам сумму — полтора килограмма чистого золота. Великовский и в дальнейшем принимал активное участие в поселенческом движении не только в Негеве, но и в Галилее, и в районе будущего Тель- Авива, сотрудничая с Артуром Рупиным, выдающимся общественным деятелем и инициатором создания еврейских сельскохозяйственных поселений в период, предшествовавший созданию государства Израиль.
Шимон Великовский был человеком сдержанным и деликатным в отношениях с людьми. Десятки евреев обращались к нему за помощью и советом. И он всегда старался помочь им или подсказать направление действий. Жить в Москве без официального права на жительство было опасно. Кроме того, его материальное положение к этому времени позволяло создать семью. В 1889 году он женится и переселяется в Витебск. В молодой семье появляются дети. Сначала Даниил, затем Александр, а 12 июня 1895 года родился третий сын — Иммануил.
В Витебске сионистская деятельность Шимона Великовского продолжается. Отсюда он был направлен в Швейцарию на Первый сионистский конгресс, где встречался с Теодором Герцлем и Максом Нордау.
В 1900 году семья Великовских покидает Витебск и переезжает в Москву, где Шимон, как купец первой гильдии, уже имел право на жительство. Здесь он становится одним из виднейших и наиболее уважаемых оптовых торговцев. Дети в семье Великовских получали одинаковое и светское и религиозное сионистское образование. Все её члены, включая самого Шимона, изучали иврит под руководством специального преподавателя. Французскому и немецкому языку детей обучала мать и этими языками они владели также свободно, как русским. Среди молодого поколения Великовских не было единодушия по поводу участия евреев в решении политического будущего России. Даниил и Александр колебались между необходимостью социальных реформ и активными действиями и в результате пришли к выводу, что только социалистическая революция может решить проблемы евреев. Иммануил же считал, что дело евреев — исход в Эрец-Исраэль и построение там своего суверенного государства. В 1917 году, накануне двух революций И. Великовский публикует брошюру "Третий исход" с призывом к евреям возродить потерянную родину в Палестине. Он и сам, разумеется, собирался туда же, как только получит образование. Шимон Великовский позволил каждому из детей выбрать свой путь. Сам же на всю жизнь, как и его младший сын, остался сионистом и пришёл к выводу, что евреи не должны иметь ничего общего с левыми движениями. В 1912 году он направляет Иммануила в Эрец-Исраэль для оказания помощи в организации там сельскохозяйственного поселения на купленной московскими евреями земле в пустыне Негев. Там уже в 1911 году были распаханы земли и задача заключалась в том, чтобы найти руководителя хозяйства, определить наиболее приемлемые и рентабельные культуры, составить необходимые сметы и решить многие другие сложные организационные и бытовые проблемы.