Ферма не без усилий решил задачу, но через два года у него уже был метод. Он предложил Пьеру Брюлару де Сен-Мартену три подобные задачи, чтобы пробудить его интерес к теории чисел. Брюлар и сам Френикль отреагировали с возмущением. По их мнению, его задачи не имели решения. Они подумали, что Ферма пытается высмеять их. Но тулузец уверил (через Мерсенна), что решение существует, не открывая его. Однако под давлением Мерсенна через некоторое время он предал гласности эти результаты.
Вы спрашиваете меня, является ли число 100 895 598 169 простым или [...] составным. На этот вопрос отвечаю Вам, что это число составное и получается из произведения 898 423 и 112 303, которые являются простыми.
Ферма Мерсенну в связи с малой теоремой
Предполагаемая невозможность основывалась на том, что метод Диофанта давал отрицательный результат; но Ферма разрубил этот гордиев узел. Действительно, когда получался отрицательный корень, он переписывал уравнение, используя данный корень и измененную переменную, и решал методом Диофанта итоговое уравнение. Если снова получался отрицательный корень, он вновь переписывал уравнение, повторяя это действие, пока, наконец, не получал положительный корень. Ферма исследовал неопределенность уравнения для изобретения искусного метода решения.
Пользуясь таким обобщенным подходом, основанным на теории уравнений, Ферма решительно порвал с диофантовым подходом, рассматривавшим частные решения, сделав прорыв, которого его современникам не удалось понять. Ферма перестал зависеть и от квадратных чисел, когда решил задачу; однако его отношения с Френиклем и Брюларом были серьезно испорчены.
В другом письме 1640 года Френиклю Ферма объявил, что нашел общие правила разложения числа на сумму двух квадратов. Это происходило из комментария Баше к одной задаче Диофанта, связанной с разложением числа N на сумму двух квадратов четырьмя разными вариантами.
Разложение числа на слагаемые — проблема, схожая с разложением на множители. Если в последнем случае ищут делители, то здесь — слагаемые. Очевидно, что слагаемые должны быть определенного типа, поскольку нахождение любых слагаемых тривиально. Именно эту проблему Ферма и решил.
Решением является формула, которую мы не будем здесь приводить. Достаточно отметить: значимость результата состоит в том, что Ферма снова удалось найти общий метод, и для этого он воспользовался любопытным свойством простых чисел, которое намного более важно, чем проблема сама по себе. Действительно, Ферма знал, что простые числа вида 4k - 1 не могут быть выражены в виде суммы двух квадратов. Также, хотя доказательство стоило ему большого усилия и было осуществлено с помощью его метода бесконечного спуска, он доказал, что простые числа вида 4k + 1 всегда можно разложить на сумму двух квадратов, и эта сумма единственная. Ферма удалось разбить нечетные простые числа на две различные группы в зависимости от того, выполняют они некое требование или нет. Он использовал эти два результата для доказательства того, что проблема Баше может быть сведена к определению, при заданном числе Ν, сколько его простых делителей имеют вид 4k - 1, а сколько — вид 4k + 1. Действительно, за исключением числа 2 все простые числа могут быть записаны в первом или втором виде, поскольку они оба включают все нечетные числа. Следовательно, только простые делители вида 4k + 1 могут образовывать два слагаемых, а количество вариантов, по которым можно разложить N, — это всего лишь проблема комбинаторики.
Мы снова видим плодотворность изучения простых делителей. Мы можем мало сказать о числе N в целом, зато можем делать утверждения о его простых делителях, которые полны интересных свойств! Таким образом мы в конце концов узнаем что-то о числе N. Этой плодотворной стратегией Ферма пользовался несколько раз. Он сам жаловался Мерсенну в 1636 году, что в арифметике не существует общих принципов решения задач. Через несколько лет сам Ферма установил некоторые из таких принципов.