Après s'être ainsi fait taper sur les doigts pour son inconséquence, le couple princier connaît encore des heures sombres par suite des mesures disciplinaires prises à l'encontre d'un de ses compagnons de voyage, l'excellent Kourakine. Accusé d'avoir approuvé les insolences de la fameuse lettre de Bibikov, le malheureux est exilé à son tour, dans ses terres, avec interdiction d'en sortir. Si encore Paul pouvait s'épancher dans le cœur d'un ami fidèle et expérimenté comme l'était son ancien instructeur Nikita Panine ! Mais celui-ci n'est plus qu'un fantôme qui hante les antichambres du palais. Usé par le grand âge et l'excès de travaux, il est sur le point de mourir. Le 31 mars 1783, le vieil homme, qui a su autrefois comprendre et diriger son pupille à travers colères et caprices, expire entre ses bras. Le lendemain de cette disparition, Paul a l'impression qu'un bouclier vivant, qui le protégeait contre ses ennemis et peut-être contre lui-même, vient de lui être retiré. Ce vide soudain l'incite à se rapprocher de sa femme pour chercher auprès d'elle un remède contre l'adversité et la solitude. Elle est toute prête à le secourir, car, sans avoir son tempérament ombrageux, elle se méfie, elle aussi, des manigances et des clabauderies de l'entourage de l'impératrice. Pour échapper aux obligations protocolaires de la « grande Cour » de Sa Majesté, ils se réfugient, avec leur « petite Cour » personnelle, dans leur cher château de Pavlovsk. De loin en loin, Catherine les autorise à y recevoir leurs enfants. Le reste du temps, Marie Fedorovna s'occupe de jardinage, flâne dans les allées du parc, herborise et fait de la peinture, tandis que Paul, désœuvré, ne décolère pas, se plaint de tout et critique, devant témoins, l'ascension de l'ancien amant de sa mère.
Depuis qu'il a quitté la chambre à coucher impériale, la renommée de Potemkine a pris un nouvel essor. Ses succès diplomatiques et militaires viennent de permettre le rattachement de la Crimée à la Russie. Pour l'en remercier, Catherine lui a décerné le titre d'Altesse Sérénissime et l'a fait prince de Tauride. Tout en pestant contre les honneurs dont on comble ce roturier, Paul reconnaît que, grâce aux dernières victoires du favori, l'accès à la mer Noire est enfin assuré et Constantinople à portée de la main. Déjà la diplomatie turque proteste contre cette annexion forcée. On est au bord d'un conflit généralisé et le grand-duc se réjouit de pouvoir, à cette occasion, en découdre avec les infidèles. Mais l'impératrice lui refuse la chance de s'illustrer sur un champ de bataille et de devenir ainsi un second Potemkine. Pour l'instant, elle pleure la mort d'un de ses anciens amants, Grégoire Orlov, celui-là même qui l'a aidée, vingt ans auparavant, à supprimer son mari et à usurper le trône. Le « coupable » a succombé, le 12 avril, à une crise de folie noire. Il était hanté, dit-on, par le souvenir de son crime. « Quoique très préparée à ce douloureux événement, je vous avoue que j'en ressens l'affliction la plus vive, écrit Catherine à Grimm. On a beau me dire et je me dis à moi-même tout ce qu'on peut dire en pareilles occasions : des bouffées de sanglots sont ma réponse et je souffre terriblement. » Son nouvel amant, le jeune Alexandre Lanskoï, l'aide à oublier son chagrin. Autre motif de réconfort : le 29 juillet 1783, Marie Fedorovna, inépuisable génitrice, met au monde une fille, la grande-duchesse Alexandra. Pour la remercier de cette contribution à l'accroissement de la famille impériale, Catherine consent à laisser l'enfant à la garde de sa mère et offre à « son fils bien-aimé, le grand-duc Paul, afin qu'il en fasse son apanage », le domaine de Gatchina, récemment racheté par elle aux héritiers de feu Grégoire Orlov.
Ce vaste domaine, situé aux environs de la capitale, compte cinq mille habitants. Si le palais de Pavlovsk est charmant d'élégance et de simplicité, celui de Gatchina, avec son architecture massive, inspire un sentiment de malaise, et même d'inquiétude. Une longue façade sombre et uniforme lui donne l'apparence d'une caserne. A l'intérieur, les colonnades en marbre de Carrare, les sculptures imitées de l'antique, les fresques des murs dans le style de Raphaël et les peintures allégoriques des plafonds ne font qu'accentuer cette impression glaciale de splendeur, d'ennui et de discipline. Un musée enfermé dans une forteresse. Marie Fedorovna s'accommode tant bien que mal de cette demeure princière où même les meubles ont l'air de se tenir sur la défensive. Elle continue à cultiver des fleurs et des plantes rares et s'adonne consciencieusement à la peinture. C'est ainsi qu'elle brosse les portraits de quelques personnages historiques, dont son mari voudrait imiter la sagesse lors de son règne futur : Pierre le Grand, Frédéric II, Henri IV... Paul apprécie les modestes talents et les grandes vertus de Marie Fedorovna. D'ailleurs, contrairement à sa femme qui n'est guère sensible aux avantages de leur nouvelle résidence, il en est, lui, tellement satisfait qu'il voit en Gatchina le lieu idéal pour le développement de ses conceptions politiques. Maître d'une petite communauté et d'un petit territoire, il fait ici son apprentissage de monarque absolu, s'exerçant au pouvoir sur un monde à échelle réduite. Soucieux avant tout de marquer cette humble patrie du sceau de ses convictions philosophiques, sociales et militaires, il y installe, à côté de l'église orthodoxe, une chapelle catholique et un temple protestant. Ainsi, les deux religions chrétiennes feront bon ménage avec la religion officielle de la Russie. Pour se distraire et animer la vie de la « seconde Cour », Marie Fedorovna organise des bals, chaque semaine, le lundi et le samedi. Parfois, on joue la comédie, entre amateurs de beau langage, sur le théâtre privé de Gatchina, à moins qu'on ne consacre la soirée à des discussions littéraires avec des écrivains de passage. La bibliothèque du château compte quarante mille volumes. Le conservateur en est M. Lafermière, français d'origine, auteur de poèmes et d'opéras fort agréables. Entre deux représentations ou deux séances de lecture à haute voix, on joue au volant ou à colin-maillard. Il arrive que des personnalités du monde politique ou littéraire de France et d'ailleurs rendent visite à Leurs Altesses. Le critique d'origine suisse La Harpe, ou le fin diplomate Louis-Philippe comte de Ségur, familier de l'impératrice, viennent enquêter, avec une curiosité amusée, sur les mœurs de ce monde clos qui, situé à quelques heures à peine de Saint-Pétersbourg, paraît entièrement étranger au reste de la Russie.
Obéissant aux consignes de Paul, Gatchina est vite devenu une sorte d'empiècement prussien dans l'épaisseur du tissu national. On y parle plus souvent le français et l'allemand que le russe ; on y respire l'air de Potsdam. Ce dépaysement artificiel permet au grand-duc de supporter l'exil que l'impératrice lui impose en faisant de lui un potentat au petit pied. Conscient de cette punition déguisée en promotion, Paul écrit, le 8 juin 1783, au baron Osten Sacken : « Je ne fais point de politique, je la laisse aux gazetiers, la mienne est de me taire. » L'année suivante, il précisera ainsi sa pensée, dans une lettre à Roumiantsev : « Me voilà, à trente ans, sans avoir rien à faire. Je ne m'en plains pourtant pas. Je me soumets à la volonté de Dieu et je me console [...]. Ma tranquillité [...] n'est pas fondée sur le plus ou moins de calme qui m'environne, mais sur la conscience et la conviction qu'il existe des biens inaltérables par aucune puissance temporelle auxquels on peut aspirer. Cela me met au-dessus, et c'est ce qui me remplit de patience, que bien des gens prennent pour quelque chose de morne dans mon caractère. »