После женитьбы Дойл активно занимается литературой и хочет сделать её своей профессией. Он печатается в журнале «Корнхилл». Один за другим выходят его рассказы: «J. Habakuk Jephson’s Statement» («Сообщение Хебекука Джефсона»), «John Huxford’s Hiatus» («Долгое небытие Джона Хаксфорда»), «The Ring of Thoth» («Кольцо Тота»). Но рассказы рассказами, а Дойл хочет большего, он хочет, чтобы его заметили, а для этого необходимо написать что-то более серьёзное. И вот в 1884 году он пишет книгу «The Firm of Girdlestone: a romance of the unromantic» («Торговый дом Гердлстонс»). Но к его большому сожалению книга не заинтересовала издателей. В марте 1886 года, Конан Дойл начал писать роман, который привёл его к популярности. Сначала он назывался A Tangled Skein. В апреле он заканчивает его и отсылает в «Корнхилл» Джеймсу Пейну, который в мае этого же года очень тепло о нём отзывается, но отказывает в его публикации, так как он, по его мнению, заслуживает отдельного издания. Так начались мытарства автора, пытающегося пристроить своё детище. Дойл отправляет рукопись в Бристоль Эрроусмиту, и пока ждёт ответа на неё, участвует в политических событиях, где впервые с успехом выступает перед многотысячной аудиторией. Политические страсти угасают, а в июле приходит отрицательный отзыв на роман. Артур не отчаивается и отправляет рукопись Фреду Уорну и К0. Но и их роман не заинтересовал. Далее следуют господа Уорд, Локки и К0. Те нехотя соглашаются, но ставят ряд условий: роман выйдет не ранее следующего года, гонорар за него составит 25 фунтов, а автор передаст издательству все права на произведение. Дойл нехотя соглашается, так как хочет, чтобы его первый роман был отдан на суд читателей. И вот, двумя годами позже этот роман был издан в Beeton’s Christmas Annual (Рождественский еженедельник Битона) за 1887 год под названием «A Study in Scarlet» («Этюд в багровых тонах»), который познакомил читателей с Шерлоком Холмсом (прототипы: профессор Джозеф Белл, писатель Оливер Холмс) и доктором Ватсоном (прототип майор Вуд), ставшими вскоре знаменитыми. Отдельным изданием роман вышел в начале 1888 года и был снабжён рисунками отца Дойла — Чарльза Дойла.
Начало 1887 года ознаменовало начало изучения и исследований такого понятия, как «жизнь после смерти». Вместе со своим другом Боллом из Портсмута проводит спиритический сеанс, который, однако, не позволил им до конца разобраться с этим вопросом, который продолжал изучать всю последующую жизнь.
Как только Дойл отсылает «Этюд в багровых тонах», он приступает к новой книге, и в конце феврале 1888 года заканчивает «Micah Clarke» («Приключения Михея Кларка»), которая выходит лишь в конце феврале 1889 года в издательстве «Лонгман». Артура всегда влекли к себе исторические романы. Его любимыми авторами были: Мередит, Стивенсон и, конечно же, Вальтер Скот. Именно под их влиянием Дойл пишет этот и ряд других исторических произведений. Работая в 1889 году на волне положительных отзывов о «Микки Кларке» над The „White Company“» («Белый отряд») Дойл неожиданно получает приглашение на обед от американского редактора «Липпинкотс мэгэзин» для обсуждения написания ещё одного рассказа о Шерлоке Холмсе. Артур встречается с ним, а также знакомится с Оскаром Уайльдом и в итоге соглашается на их предложение. И в 1890 году в американских и английских выпусках этого журнала появляется «Знак четырех» («The Sign of Four»).
Несмотря на его литературный успех и процветающую медицинскую практику, гармоничная жизнь семейства Конан Дойл, расширенная рождением его дочь Мэри (была рождена в январе 1889 года), была беспокойна. 1890 год был не менее продуктивный, чем предыдущий, хотя и начался со смерти его сестры Аннет. К середине этого года он заканчивает «Белый отряд», который берёт для публикации Джеймс Пейн в «Корнхилле» и объявляет его лучшим историческим романом со времени «Айвенго». К концу этого же года под влиянием немецкого микробиолога Роберта Коха и ещё более Малькольма Роберта он решает оставить практику в Портсмуте, и едет вместе с женой в Вену, оставив дочь Мэри у бабушки, где хочет специализироваться в офтальмологии, чтобы в дальнейшем найти работу в Лондоне. Однако, столкнувшись со специализированным немецким языком и проучившись 4 месяца в Вене, понимает, что время потрачено впустую. В период учёбы он пишет книгу «The Doings of Raffles Haw» («Открытие Рафлза Хоу»), по мнению Дойла «…не слишком значительную вещь…». Весной этого же года Дойл посещает Париж и спешно возвращается в Лондон, где открывает практику на улице Upper Wimpole. Практика успеха не имела (пациенты отсутствовали), но за то в это время пишутся короткие рассказы о Шерлоке Холмсе для журнала «Стрэнд». А помощью Sidney Paget создаётся образ Холмса.