После «Дочери на выданье» в творчестве Агнона наступает длительный период мрачнейшего пессимизма. Даже живя в «башне слоновой кости» квартала Тальпиот, писатель не мог не испытывать на себе влияния событий 30-х гг. в стране и в мире: прихода нацистов к власти в Германии и начала антисемитского геноцида, постоянно провоцируемой британскими колонизаторами арабо-еврейской розни в Палестине, приведшей к вспышке взаимного террора в 1936–1937 гг. Один за другим в свет выходят сборники его «черных рассказов»: «Другое лицо» (1933), «Страшные дни» (1935), «Почва Палестины» (1938), «В лесу, в лесу» (1938) и др. Здесь стиль «наивного реализма» с элементами фантастики, свойственный его более ранним произведениям, обретает зловещие кафки-анские черты. Писатель рисует жизнь простого человека как цепь непонятных событий, каждое из которых таит в себе угрозу для тела и для души. К этому же циклу тематически примыкает роман «Простая история» (1935) и повесть «Гость остановился переночевать» (1939), выдержанные в стилистической манере старого реализма. Первый из них посвящен истории буржуазной еврейской семьи из Галиции, медленно распадающейся и утрачивающей систему традиционных жизненных ценностей под влиянием бурных политических процессов рубежа XX в. Второе произведение — рассказы неизвестного путешественника о поездке в родной город в Галиции после Первой мировой войны: автор показывает окончательное разрушение милого его сердцу духа традиционного еврейского местечка, дегуманизацию, ставшую следствием распада общинной жизни, разъедающее влияние капиталистических отношений, погони за чистоганом.
Такой же ностальгией по патриархальным нравам местечка проникнуты сборники рассказов «Те и эти» (1941), «Присяга» (1943). Уже здесь читатель находит первые скрытые противопоставления «высокоморального» еврейского прошлого тому настоящему, которое предлагали евреям сионисты в Палестине Фронтальное противопоставление этих двух реальностей предлагает Агнон в наиболее крупном своем романе «Буквально на днях». После создания государства Израиль он писал все меньше и меньше. Его особый статус единственного в 40—50-е гг. местного писателя, переводившегося на основные "европейские языки, уготовил ему место не за рабочим столом, а больше в президиумах различных собраний. В немногочисленных произведениях Агнона, изданных в этот период, от сборника рассказов «Полагайся на нас — а мы посмотрим» (1951) до повести «Идо и Эйнам» (1963), в основном повторяется все та же галицийская тематика и мистика в кафкианском духе.
Подзаголовок романа — «Чудесные происшествия с реб Юдлом из Брод и тремя его скромницами-дочерьми» — сразу отсылает читателя к еврейской лубочной литературе XIX в. с ее наивным романтизмом и страстной верой в чудеса. Рамочная композиция — путешествия главного героя по местечкам Галиции, где он собирает деньги на приданое дочерям, — позволяет автору показать широкую панораму жизни еврейской провинции в диаспоре Восточной Европы. Перед читателем проходит галерея персонажей, живущих как бы одновременно в двух мирах: мире реальности с его повседневной заботой о куске хлеба и в возвышенном мире талмудических преданий, мистических истолкований Библии, хасидских легенд о «чудотворных раввинах». В конце концов фантастический, проникнутый наивной народной религиозностью мир реб Юдла волей автора одерживает полную победу над реальностью с ее невзгодами и лишениями. Этот роман стал одной из вершин творчества Агнона.
Эго история наивного хасида из Галиции Ицхака Куммера, который в начале века, поверив сионистским идеям, иммигрирует в Палестину, чтобы превратиться в «халуца» — пионера сионистского «освоения» страны для создания там еврейского государства. Однако в политизированном обществе, которое представлял собой тогда еврейский «ишув», благие намерения нового иммигранта постепенно рассыпаются в прах: он не может ужиться с другими «халупами», вдохновляемыми кто народничеством, кто социал-демократическими идеями, кто толстовством и каждый из которых видит в предлагаемом Ицхаком «сохранении еврейских корней» самый страшный грех с точки зрения сионизма. В конце концов герой романа отходит от сионистского движения, возвращается в среду религиозных фанатиков, но вскоре гибнет от укуса бешеной собаки.