Даже препоны на пути публикации романа, которые ставились автору до 1905 года, оказались ему в конечном счете на руку. В течение двух лет ни один журнал не принимал рукопись «Мелкого беса». Наиболее близким по эстетическим установкам был для Сологуба «Новый путь» Мережковских, однако для журнала религиозной направленности сюжет романа совсем не подходил. «Нас и без того подозревали во всех содомских грехах», — писал редактор журнала Перцов. Пока с рукописью знакомилось ближайшее литературное окружение Сологуба, он прислушивался к советам читателей. Так из романа исчезли однотипные и отягощавшие его композицию эпизоды. В 1905 году началась публикация романа в журнале «Вопросы жизни», но она не была доведена до конца: издание, как уже говорилось ранее, закрылось. Лишь в 1907 году роман был издан целиком, был замечен публикой и критикой.
Основная сюжетная линия романа посвящена Ардальону Передонову — тупому и пошлому учителю гимназии, который мечтает по протекции получить место инспектора и женится ради этого на своей давней сожительнице Варваре. Желаемой должности он так и не получает, в результате чего сходит с ума, творя бесчинства и смущая своим поведением весь город. В бреду ему начинает являться недотыкомка — серая бесформенная нежить, мелкая и гадкая, как душонка самого Передонова. Вторая сюжетная линия, очевидно противостоящая первой, посвящена роману девицы Людмилы Рутиловой и подростка-гимназиста Саши Пыльникова. Нежное чувство этих двоих овеяно первыми смутными желаниями, неосознанными и оттого особенно сладкими. Саше хочется «что-то сделать ей, милое или больное, нежное или стыдное, — но что?». Телесная красота, ценимая Людмилой, порочна с точки зрения обывателя, но невинна и прекрасна для Сологуба — создателя рассказа «Красота», писателя, который исповедовал языческое поклонение телу.
Крайности в этом романе соединяются в нерасторжимое целое. Учитель — подлец, греховодница — праведна. Предыдущий роман Сологуба «Тяжелые сны», по всеобщему мнению, был слишком приземленным. Следующий известный крупный прозаический опыт писателя — роман «Творимая легенда» — оказался слишком фантастичным и необычным до анекдотичности. Лишь «Мелкий бес» удачно сочетал в себе фантастику и реальность, мечту и грязь. И даже в названии романа, вероятно, был заложен оксюморон, сочетание несочетаемого. Согласно одной из христианских трактовок, бес не может быть мелким, поскольку он — не слуга сатаны, а сам сатана, глава злых сил. Прежняя проза Сологуба называлась обычно по преобладающему душевному состоянию героев или по яркому образу из текста: «Прятки», «Утешение», «Обруч». Названия вообще не были сильной стороной писателя, и сборники стихов он в начале своего творческого пути часто никак не называл, ограничиваясь порядковым номером книги. Давать названия стихотворениям Сологуб тоже не любил. Роман «Мелкий бес» неоднозначен во всём, начиная с названия, и во всём знаменует собой новую ступень в развитии автора.
«Сологуб, бесспорно, поэт антирелигиозный», — объявил критик И. Розенфельд, исходя из безысходности его мировидения. В отличие от мифологем, созданных писателем в лирике (земля Ойле, звезда Маир), мелкий бес по имени Недотыкомка явно связан с традиционной христианской верой при одном главном отличии: авторский миф строится вокруг черта, а не вокруг бога, как все мифы народов мира. Место действия романа «Мелкий бес» — русский провинциальный город, в котором вся жизнь размерена церковными службами. Чтобы тайно встретиться с гимназистом Сашей, девица Людмила подгадывает, когда его квартирная хозяйка Коковкина будет возвращаться со службы, дабы Людмилины сестры могли заманить ее в гости. Роман начинается с того, как прихожане расходятся после праздничной обедни, они только что причастились, очистились от грехов — и уже снова заводят ехидные и порочные разговоры.
Как ни странно, даже заглядывая в церковь, Сологуб выбивается из христианской литературной традиции, в соответствии с которой произведение должно вести читателя от греха к просветлению, от низкого быта к колокольному звону церковного праздника. Так было в русской культуре от «Выбранных мест из переписки с друзьями» Гоголя до «Соборян» Лескова и далее, вплоть до XX века, когда отзвуки этой традиции ощущались, например, в фильме Тарковского «Андрей Рублев». В «Мелком бесе» Сологуба как в тексте о бесовщине эта схема перевернута: роман начинается с обедни, а заканчивается безбожными поступками и ситуациями — маскарадом и убийством.