При вступлении на престол Петра III Брюс был сделан 28 декабря 1761 года секунд-майором лейб-гвардии Семеновского полка, через два дня — генерал-майором, а через несколько недель (в феврале 1762 года) награжден орденом Святой Анны.
Со вступлением на престол Екатерины II Брюс благодаря тому особому расположению, которым пользовалась его супруга у императрицы, быстро продвигался по службе. Он был произведен в генерал-поручики и 14 мая 1769 года награжден орденом Святого благоверного князя Александра Невского. В начале Первой турецкой войны Брюс находился в армии князя Голицына, командовал частями войск первой линии и участвовал в сражениях под Хотином в 1769 году, в особенности 29 августа и 6 сентября, где Брюс с трудом удерживал натиски турок. После того как Голицын был отозван и на его место назначен граф П. А. Румянцев, брат его жены, Брюс получил в командование 3-ю дивизию и принимал участие в сражении при Ларге, находясь на левом фланге главного каре. В последовавшей затем битве при Кагуле 21 июня 1770 года Брюс был направлен для атаки в тыл правого фланга турецкого ретраншемента. При этом турки окружили со всех сторон каре Брюса и Репнина, храбро и стойко державшихся, пока в результате действий Румянцева турки не потерпели полного поражения. Получив после битвы при Кагуле приказ Румянцева выступить с отрядом к Фальчи, чтобы спешить к штурму Бендер, сообразуя свое движение с отрядом генерала Глебова, Брюс, достигнув 1 сентября Фальчи, остановился ввиду сильного разлития реки Прут от дождей. Румянцев приказал ему двинуться немедленно далее. Хотя Брюс это и исполнил и дошел до Текуча, но, не имея должного сношения с отрядом Глебова, дал туркам возможность отступить к Фокшанам и, опасаясь один встретиться со значительными силами врага, не решился идти дальше; этими действиями Брюс навлек на себя гнев Румянцева, который ему написал, между прочим: «Мне остается жалеть только о невозвратном времени, когда я должен узнавать, сколько отсутственные мои распоряжения не производят своих действий; всякое мое повеление лежит на моем ответе; напротив, ваше сиятельство одну должность имеете — все то исполнять, что вам повелевается, а за другое, кроме неисполнения приказанного, не потребуется от вас ответа». Брюс обиделся на это письмо, сказался больным, сдал команду Глебову и скоро отправился в Киев, а затем в Петербург, где был пожалован в генерал-адъютанты. В 1771 году ему было поручено, по случаю свирепствовавшей в Москве чумы, принять меры для предотвращения появлениязтой болезни в Петербурге. Брюс принялся за дело энергично, учредил карантины между двумя столицами, строго следил за приезжающими, запретил всякий вывоз товаров из пунктов, зараженных чумою, приказал осматривать и окуривать все привозимые товары и т. д.; благодаря таким мерам чума в Петербург не проникла. Произведенный в 1773 году в генерал-аншефы, Брюс был назначен командовать войсками финляндской дивизии ввиду войны со шведским королем Густавом III. Хотя эта война и не ознаменована особыми успехами нашего оружия на сухом пути, тем не менее Брюс был награжден скоро орденом Святого апостола Андрея Первозванного и после почти одновременной кончины генерал-губернаторов в обеих столицах (князя Александра Голицына в Петербурге и графа Захара Чернышева в Москве), был назначен на их место генерал-губернатором обеих столиц и главнокомандующим войсками в Москве. Из дошедшей до нас переписки императрицы Екатерины с Брюсом, относящейся к этому периоду его деятельности, можно заключить, что Брюс являлся только исполнителем предписаний самодержицы, указывавшей ему постоянно на предметы, о которых он должен был бы озаботиться и сам по своей должности. Из тех же писем видно, что в бытность Брюса губернатором Москвы производилась постройка различных казенных зданий, достраивался Всесвятский каменный мост, приводилась в приличный вид Красная площадь, очищался весь Охотный Ряд, устраивались в связи со сломом стены, окружавшей Белый город, площади в разных местах для торга и т. д. 7 октября 1785 года Брюс получил указ императрицы осмотреть во всех московских школах, как производится обучение Закону Божьему, в точности ли по догмату православной веры и по каким именно книгам, наблюдая, чтобы не было допускаемо суеверия, развращения и соблазна. Брюс составил для этого особую комиссию из двух светских профессоров и двух лиц духовного звания и доносил Екатерине, что по осмотру ничего предосудительного не оказалось, хотя открылось, что в очень многих пансионах Закон Божий преподается небрежно и даже вовсе не входит в курс обучения. Будучи человеком суровым, Брюс резко осуждал действия своего предшественника, графа Чернышева, и в особенности по отношению к мартинистам. Он прямо заявлял, что будет чинить зло мартинистам, ибо императрица считает их подозрительными, и что вообще солидным людям неприлично принадлежать к их обществу. Масона Лопухина, бывшего председателем Уголовной палаты, он принудил выйти в отставку, неоднократно жалуясь на него императрице. Равным образом, согласно указу императрицы от 23 декабря 1785 года о том, чтобы осмотреть и описать типографию Новикова, из которой «выходит много странных книг», а также испытать в Законе Божьем самого Новикова, Брюс доставил к императрице роспись книг, бывших у Новикова и у него отобранных, замечая в своем письме к Безбородко по этому поводу, что «величайшее число книг сенсировано (т. е. цензурован) духовными, но видится мне, что наши духовные с вашими не единогласны, и что из них одни находят для просвещения, то другие — для развращения». Позднее, в 1786 году, Брюс представил императрице допросные пункты, данные Новикову, и его на них ответы, а также доносил ей, что у Новикова все книги опечатаны и у него более не имеется других экземпляров. Брюса в Москве не любили за его суровость, да и сам он был недоволен пребыванием в городе, где «застарелые обычаи и тьма предубеждений», и благодарил Безбородко в 1786 году за исходатайствованное у государыни разрешение ему приехать в Петербург. После этого, 26 июня 1786 года, Екатерина II подписала, по его просьбе, указ об увольнении его от должности, занимаемой им в Москве, так что он остался только генерал-губернатором в Петербурге, продолжая пользоваться расположением императрицы. Во время своего путешествия в Крым в 1787 году Екатерина посылала Брюсу журнал этого путешествия, чтобы отвратить в столице пустые речи. Немного позже, при возникшей войне с Турциею, Брюс был назначен членом особого совета, в котором обсуждалась вероятность предстоящей войны; затем, при возникшей внезапно войне со Швецией в 1788 году, Брюс был назначен главнокомандующим в столице и Петербургской губернии, однако должен был производить дела под собственным ведением ее величества. В этом звании Брюс особенной деятельности не проявил. «Яков Брюс, да не тот», — писали о нем современники, сравнивая его со знаменитым дедом, героем нашей книги. Сохранились и нелицеприятные воспоминания, характеризующие личность этого человека. Говорят, Яков Александрович внес предложение о радикальном способе борьбы с дезертирами в армии. На лбу у этих солдат необходимо было, по его мнению, выжигать слово «дезертир». Когда же в качестве возражения ему сказали о возможной ошибке в ходе следствия и что солдат может не быть дезертиром, Брюс хладнокровно ответил, что достаточно добавить на лбу подследственного две буквы «не».