Ю. О. Мартов приехал в Германию уже тяжелобольным человеком. 12 октября 1920 г. он выступил на съезде НСДПГ в Галле. Слово ему предоставили после Зиновьева, говорившего от имени ЦК РКП(б) и Исполкома Коминтерна. Четырехчасовая речь этого небесталанного и беспринципного коммунистического демагога, безусловно, впечатлила делегатов. Мартов же смог сказать всего несколько слов приветствия – болезнь и связанная с ней потеря голоса вынудили его написать текст выступления, которое зачитал А. Н. Штейн. Трудно сказать, каково было влияние речи на результаты съезда – в том, что на нем произошел раскол (236 делегатов голосовали за присоединение к Коминтерну, 150 – против), сказался ряд факторов. Хотя НСДПГ после вступления большинства ее членов в компартию сильно ослабела, она оставалась наиболее значительной центристской партией. Именно на нее опирались те социалистические деятели, и Мартов в их числе, которые стремились к созданию промежуточного международного объединения. В 1921 г. было образовано международное объединение социалистических партий, вошедшее в историю под названием Второй с половиной интернационал. Как показывает само это определение, с самого начала объединение рассматривалось как промежуточное, и, действительно, через два года оно слилось со II Интернационалом, образовав более прочное международное объединение – Социалистический рабочий интернационал.
В последние годы жизни Ю. О. Мартов вместе с Р. А. Абрамовичем и Е. Л. Бройдо образовал Заграничную делегацию РСДРП, к которой чуть позже присоединился Д. Ю. Далин. Мартов сыграл ведущую роль в создании «Социалистического вестника», русскоязычного политического журнала социалистического направления, первый номер которого вышел 1 февраля 1921 г. в Берлине. В 1921–1922 гг. Мартов опубликовал на его страницах много статей о политическом положении в России. В основном они были посвящены изменениям в социально-экономической и политической ситуации после введения нэпа. Саму либерализацию хозяйственной жизни он приветствовал, но подчеркивал и доказывал, что без либерализации политической она не может быть прочной, а на возможность политической либерализации смотрел весьма скептически. Он по-прежнему был убежден, что установление власти рабочих возможно лишь в развитых странах с достаточной численностью и организованностью пролетариата.
В 1922 г. Мартов был одним из главных организаторов международной кампании протеста против провокационного суда над лидерами эсеровской партии, организованного в Москве, побудил к выступлениям с протестом М. Горького, а через него А. Франса.
Силы Ю. О. Мартова слабели. Все больше времени проводил он в туберкулезном санатории в горах Шварцвальда. 11 февраля 1922 г. он встретил в Берлине своих товарищей Ф. И. Дана, Б. И. Николаевского и других, которых после голодовки в тюрьме большевистские власти выпустили за границу. Это также было результатом протестов из-за рубежа, в частности со стороны германских независимых социал-демократов. Ленин вынужден был отказаться от планировавшегося крупного судебного процесса над меньшевистскими лидерами по примеру суда над эсерами. В каком-то смысле большевистский вождь был последователен. За много лет до этого, в швейцарской эмиграции, он в ответ на реплику лидера эсеров В. М. Чернова «Приди вы к власти, вы на следующий день меньшевиков вешать станете» заметил: «Первого меньшевика мы повесим после последнего эсера» [34] . Ни повесить, ни расстрелять не получилось – ряд меньшевистских лидеров выпустили за рубеж. Придет пора, и достойный наследник Ленина Сталин добьет оставшихся в живых и эсеров и меньшевиков.
Ю. О. Мартов скончался 4 апреля 1923 г. Он был похоронен в Берлине. Кроме друзей-меньшевиков и германских социал-демократов на похоронах был, пожалуй, только один известный человек – М. Горький. 5 апреля в «Правде» и «Известиях» появился некролог, подписанный К. Б. Радеком. Отдавая должное таланту и личной честности Мартова, автор называл его «Гамлетом русской революции», привнося тем самым во внешне сочувственный покойному текст нотку пренебрежения, если даже не презрения к поверженному, а теперь покойному политическому противнику. Биограф Мартова И. Гетцлер в специальной заключительной главе своей книги «Был ли Мартов Гамлетом демократического социализма?» убедительно отвергает такую трактовку, полагая, что его герой являлся «действительно верным и открытым революционером, который отказывался от реальных возможностей власти, если они возникали в несоответствующее время и при несоответствующих обстоятельствах» [35] . Сомнительность этого утверждения, явно идеализирующего Мартова, как и оценки Радека, определяются самим фактом утопичности «демократического», как и всякого другого социализма, рассматриваемого в качестве определенной стадии в развитии общества.