Композиционно памятник устроен следующим образом. Открывается он своеобразной экспозицией — описана встреча в 1025 г. двух старцев в храме Облачного леса Урин-ин, где собралось множество народа на церемонию разъяснения «Сутры Цветка Закона», то есть «Сутры Лотоса», они-то и рассказывают о событиях и судьбах. Затем представлены 14 биографий японских императоров, начиная с императора Монтоку, при котором род Фудзивара пришел к власти, и до «ныне царствующего» императора Го-Итидзё. В новейших исследованиях «Оокагами» биографии императоров стали называть мирэкидай-но моногатари, буквально «повествование об августейших исторических поколениях». Потом следуют 20 жизнеописаний высших сановников из рода Фудзивара, причем хронологически второй раздел повторяет первый, то есть история как бы рассказана дважды, но с измененным акцентом. В современной литературе они получили название дайдзин моногатари, «повествование о министрах». Примечательно, что жизнеописания императоров перетекают в то, что можно было бы назвать вторым введением: покончив с деловой частью сочинения — судьбами императоров и переходя к следующей, более важной для целей автора и потому гораздо более обширной и литературной части, — старцы предаются отвлеченным размышлениям о зеркале, времени, истории и судьбах мира и людей, о преемственности власти, значении рода, сочиняют стихи.
После пространных биографий сановников знаменитого рода следует еще одна часть, называемая «Повести о клане Тоо» (Тоо — это китайское чтение иероглифа «фудзи», глициния) — здесь история повторяется еще раз, начиная с предка рода — Фудзивара Каматари (настоящее имя Накатоми-но Камако (614—669), он стал называться Фудзивара Каматари по августейшему разрешению), но эта в третий раз рассказанная история звучит совсем иначе: вкратце, предельно сжато, представлена судьба регентского дома Фудзивара в целом, выделены только важнейшие события (к примеру, факт общения с богами-ками), члены клана лишь бегло упомянуты. Это — своеобразный дайджест истории дома Фудзивара. Но на этом повествование не заканчивается, хотя, казалось бы, история рода Фудзивара уже показана с разных сторон и с исчерпывающей полнотой.
Далее следует наиболее «литературная» часть памятника — «Истории старых времен». В этой части рассказчики снова возвращаются к прежним темам и событиям, но повествование имеет более частный характер: старицы говорят о том, что сами видели и слышали, и в раннем детстве, и в зрелом возрасте, и в глубокой старости. Так, старец Ёцуги рассказывает о сооружении известных храмов, излагает истории — порой фантастические — их создания, цитирует множество стихотворений, вошедших в знаменитые антологии, рассказывает «занимательные и очаровательные случаи» (слова Ёцуги), анекдоты; описывает явления некоторых богов-ками: божества Касуга, божества Мороки; празднества, церемонии, танцы. Здесь отчетливо звучит голос рассказчика, чувствуется его стиль, характер, очевидны реакции на разные события; его комментарии, размышления полны глубокого смысла.
Подобная круговая композиция, постоянное и последовательное возвращение повествования к одной и той же первоначальной дате (850 г.), к тем же событиям и героям, которые то выдвигаются вперед, то отодвигаются в тень, несет вполне определенную нагрузку. В ней просматривается всеобъемлющий буддийский образ жизни как вращающегося колеса (это — одна из сквозных тем памятника). Кроме того, подобная композиция позволяет системно изобразить разные стороны жизни семейного клана: его взаимоотношения с императорским родом; отношение к власти, к богам, придворным; погруженность в жизнь хэйанской аристократии; приверженность искусствам и религии (синтоизму и буддизму). Судьбы героев как бы поворачиваются к читателю (а в тексте—к слушателю) разными гранями, и жизнь рода в целом переливается, как мозаичная картина, и каждая часть имеет самостоятельное значение и, порою, может быть выделена в отдельное произведение.