Задача, предложенная Гауссу, касалась вычисления траекторий планет на основе минимального количества наблюдений (по крайней мере, трех). Математически она была чрезвычайно сложной, поскольку нужно было решить шесть уравнений с шестью неизвестными. При этом вычислить точные решения было невозможно и нужно было найти приближенные. Да, решение линейной системы какой-либо задачи, в которой столько же неизвестных, сколько и уравнений, может быть довольно трудоемким, но не предполагает технических сложностей. Однако в этом случае система уравнений была нелинейной. Вычисление орбиты Цереры, как и почти все вычисления Гаусса, включало в себя искусное использование последовательных приближений. Следует отметить прагматизм ученого, который использовал любой доступный математический инструмент. При этом он ввел множество идей, полное доказательство которых далеко не тривиально.
На первом этапе нужно было определить возможную орбиту, а затем, что еще сложнее, осуществить постепенную коррекцию. В целом наблюдаются три типа орбит: эллиптические, параболические и гиперболические. До Гаусса были достигнуты некоторые успехи, например в определении орбиты Урана, но это было довольно просто, поскольку изначальное предположение о том, что Уран описывает круг вокруг Солнца, было недалеко от истины ввиду очень небольшого эксцентриситета орбиты планеты. Кроме того, имелись многочисленные наблюдения, помогавшие скорректировать любую ошибку. В случае с Церерой Гаусс располагал результатами только 41 дня наблюдений; кроме того, ее орбита имела высокую степень эксцентриситета, поэтому гипотеза круга, на которой основывались Ольберс и фон Цах, не сработала. Подход Гаусса был основан только на имевшихся наблюдениях, и для решения задачи ученый пользовался эвристическими методами, то есть улучшал результат шаг за шагом. В эвристических методах используется итерация, при которой найденные частичные решени я служат основой для нахождения новых решений, более близких к реальному решению задачи.
Метод наименьших квадратов, созданный Гауссом, — это техника числового анализа, состоящая в математической оптимизации. Цель — нахождение функции, которая бы наилучшим образом подходила известным данным. Математическая идея следующая: пусть (x1, y1), (х2, y2), ..., (xn, yn) — пары данных, полученных при реальных наблюдениях за переменными X и Y. Теперь предположим, что между переменными X и Y существует связь, определяемая функцией ƒ, так что ƒ(хi) = уi. В случае с планетой Церерой, который изучал Гаусс, пары были образованы положением в пространстве (переменная Y) и временем (переменная X). Определить траекторию планеты было равносильно нахождению вида функции ƒ, так, чтобы при введении данных времени (х) мы могли вычислить ее положение (у) на основе значения ƒ(хi). Нужно выявить метод нахождения функции, при которой были бы минимальными ошибки или вычеты, определяемые как разница между реальным значением переменной Y (положение планеты) и ее вычислением с помощью функции ƒ. Сумма этих ошибок должна быть как можно меньше. Чтобы ошибки взаимно не исключались отрицательными и положительными числами, они возводятся в квадрат; у этой процедуры также есть дополнительное преимущество — она сокращает значение более мелких ошибок, большинство из которых вызваны неточностью взятых данных. Итак, проблема наименьших квадратов сводится к нахождению такой функции ƒ, чтобы минимизировалась сумма квадратов ошибок, то есть чтобы
было минимальным.
Проблема равносильна нахождению минимума среднеквадратической ошибки, то есть минимизации функции:
Эта формулировка несколько проще той, с которой в действительности столкнулся Гаусс, поскольку ради простоты мы предположили, что положение планеты Цереры можно представить только одной переменной, в то время как на самом деле необходима трехмерная система координат, то есть переменная является векторной. Это влияет на сложность вычислений и число неизвестных, с которыми нужно работать, но не на теоретическую постановку.
Авторство разработки метода наименьших квадратов породило большую полемику с французским математиком Адриеном Мари Лежандром. Эта полемика была вызвана методами работы математиков начала XIX века и особенно подходом Гаусса к публикации результатов. На самом деле количество математических достижений Гаусса было несравнимо с числом публикаций. Гаусс, как и другие современные ему математики, не публиковал свои открытия сразу же в коротких статьях, как это делается сегодня, а накапливал их для издания целой книги. При этом он стремился не оставлять следов своего исследовательского труда. В случае с Церерой он озвучил решение, которое оказалось точным и принесло ему славу, но не объяснил используемого метода. Гаусс не публиковал своих трудов о методе наименьших квадратов до 1809 года, когда вышла его работа Theoria motus corporum coelestium in sectionibus conicis solem ambientium («Теория движения небесных тел, обращающихся вокруг Солнца по коническим сечениям»), то есть произошло это почти через десять лет после использования метода для вычисления орбиты Цереры. В этой публикации ученый обсуждает метод и намекает на работу Адриена Мари Лежандра по этой теме. Действительно, Лежандр хотя и не был первым, кто использовал этот метод, но первым описал его в работе Nouvelles methodes pour la determination des orbite des cometes («Новые методы определения орбит комет»), которая была опубликована в 1805 году (за четыре года до публикации Гаусса). Именно Лежандр дал методу название, известное сегодня. Вскоре после публикации книги Гаусса Лежандр написал ученому приветственное письмо, в котором, тем не менее, заявлял о своем авторстве метода наименьших квадратов.