Лидеры СДРП А. Бебель и В. Либкнехт добивались преодоления раскола, объединения всех сил рабочего класса. В период предвыборной кампании в рейхстаг 1874 г., благодаря сотрудничеству многих местных организаций, произошло сближение партий. Вместе СДРП и ВГРС провели в рейхстаг 9 депутатов. Относительный успех рабочих партий на выборах побудил Бисмарка создать из социал-демократов, так же как и из партии Центра, образ «врага империи», «партии переворота», которая подрывает «национальное государство». Правительство развернуло наступление на ВГРС и СДРП, ограничивало возможности их агитационной и общественной работы. Их лидеры подвергались арестам и заключению. К кампании травли присоединились многие предприниматели. Они начали увольнять рабочих — членов СДРП. «Стальной магнат» Альфред Крупп (1812-1887) уволил со своих заводов всех рабочих-социалистов.
Но такой правительственный курс наоборот способствовал консолидации рабочих партий. В декабре 1874 г. они начали переговоры об объединении. В марте 1875 г. лидеры ВГРС и СДРП подготовили проект программы партии. Незадолго до объединительного съезда он был передан К. Марксу и Ф. Энгельсу. К. Маркс сделал принципиальные, с точки зрения марксизма, замечания в работе, известной как «Критика Готской программы». Однако организаторы съезда не ознакомили с ними делегатов, опасаясь, что дискуссия по их поводу сорвет процесс объединения. В результате программа Социал-демократической рабочей партии, принятая в мае 1875 г. на съезде в Готе, сохранила сильное влияние лассальянства.
В Готской программе содержались такие демократические требования, как введение всеобщего, равного, прямого и тайного избирательного права и даже прямого народного законодательства. Эта часть программы была нацелена на улучшение социального положения рабочих и усиление их политического влияния, но, с точки зрения марксизма, эти требования не выходили за рамки левого либерализма. Готская программа была во многих пунктах утопической, но на момент создания СДРП она в целом соответствовала уровню мировоззрения приверженцев обеих организаций. Между тем влияние партии быстро распространялось, особенно в промышленных районах. И вскоре ее практическая деятельность «переросла» рамки программы.
В 1875 г. было принято также решение об объединении профсоюзов литейщиков, машиностроителей, каменщиков, плотников. К 1878 г. в Германии действовало 27 отраслевых профсоюзов социал-демократической направленности, получивших позднее название «свободных» (от буржуазного и клерикального влияния). Они приобщали рабочих к участию в общественной жизни, служили связующим звеном с СДРП.
Преодоление раскола в рабочем движении произошло в период экономического кризиса и повысило способность рабочего класса к защите своих интересов. В правящих кругах в это время обсуждался вопрос о протекционистских тарифах на импортное зерно, скот, ряд промышленных товаров. Правительство учитывало, что их введение приведет к удорожанию стоимости жизни рабочих и вызовет стачечное движение. Чтобы предотвратить его подъем, по инициативе правительства рейхстаг принял в октябре 1878 г. «Закон против общественно опасных устремлений социал-демократии», получивший впоследствии название «исключительный». Он запрещал социал-демократам всякую политическую деятельность, кроме участия в избирательных кампаниях. Закон неоднократно продлевался и действовал до 1890 г.
После вступления в силу «исключительного закона о социалистах» СДРП оказалась на нелегальном положении, ее организации были распущены, почти все издания закрыты, проведение собраний, митингов запрещено. Из промышленных центров были высланы активные участники движения. Репрессивный закон вызвал вначале растерянность в партии. Группы анархистов призывали к вооруженному выступлению против правительства. Некоторые лидеры СДРП, например Эдуард Бернштейн (1850-1932), наоборот, призвали отказаться от революционных целей, от пролетарского характера партии, открыть в нее доступ представителям широких слоев населения. К. Маркс и Ф. Энгельс в так называемом «циркулярном письме» настоятельно рекомендовали руководству СДРП сохранить политическую самостоятельность.
Руководству партии во главе с А. Бебелем, В. Либкнехтом удалось организовать не только участие СДРП в избирательных кампаниях и в деятельности рейхстага, но и наладить внепарламентскую работу с использованием ее легальных и нелегальных форм. Постепенно были восстановлены местные организации СДРП, организована система нелегальной доставки в Германию газеты «Социал-демократ», издававшейся вначале в Цюрихе, а затем Лондоне. Позднее в Германии были созданы подпольные типографии. Партийные собрания проводились под видом заседаний профсоюзных, певческих, просветительских объединений, клубов курильщиков и пр. СДРП публично подчеркивала свою приверженность легальным методам работы. Она не только избежала разгрома, но значительно укрепила и расширила свои ряды, усилила влияние на трудящихся.