Конец XV и начало XVI в. являются переломной эпохой в истории оптики; она связана с распространением очковых линз, луп, призм, выпуклых и вогнутых зеркал, с появлением камеры-обскуры и проекционного фонаря. В руках физиков оказался ряд ценнейших оптических приборов или, точнее, деталей, элементов, из которых могут быть созданы самые сложные оптические системы. Не удивительно, что оптические теории стали развиваться со все возрастающей скоростью.
Около 1590 г. была построена первая зрительная труба (Янсен, Липперсгей); несколько позже, в начале XVII в., были построены первые сложные микроскопы (Фонтана). Открытие подзорной трубы и микроскопа приписывается случайности. Действительно, теория хода лучей через линзы не была еще построена, и понятие «изображения» только рождалось; сознательное построение сложных оптических систем оказалось под силу только такому выдающемуся физику, как Галилей, который построил понаслышке и тот и другой прибор, направил трубу на небо и открыл ряд небесных явлений, а именно: существование и вращение спутников вокруг Юпитера, фазы Венеры и пр. Это дало в его руки мощнейшие аргументы в пользу гипотезы Коперника о вращении Земли вокруг Солнца.
Однако даже Галилей не дал удовлетворительного объяснения действия микроскопа и астрономической трубы, не понял ни роли окуляра, ни основ работы глаза.
Теории оптических приборов и глазного аппарата были созданы гением Кеплера; он совершил в оптике тот переворот, который был совершен Ньютоном в астрономии законом всемирного тяготения и в математике введением дифференциального исчисления. Он собрал разрозненные элементы оптики у своих предшественников, очистил их от ненужного балласта, сам дал твердое обоснование всей теории – закон преломления – и последовательно развил теорию зрительной трубы, микроскопа и глаза. Его «Диоптрика» (1611) по форме и содержанию мало отличается от современных учебников по геометрической оптике и являет поразительный контраст с аналогичными трактатами его предшественников, а иногда даже и последователей.
Хотя Кеплер не нашел точной формулировки закона преломления и после некоторых неудачных попыток остановился на законе пропорциональности между углом преломления и углом падения, он вывел из него правильные следствия и впервые указал, как найти изображения, даваемые линзами. Он правильно объяснил работу окуляра в зрительной трубе и в микроскопе, понял роль хрусталика и сетчатки в глазу, не смутившись, как большинство его предшественников, обратным изображением предметов на сетчатке; он обратил внимание на аккомодацию и адаптацию глаза, на иррадиацию и т. д. Вопросы, связанные с энергетикой оптических лучей, т. е. с поведением световых пучков при преломлении через оптические системы, впервые, хотя и в очень завуалированной форме, затрагиваются им. Он показывает ошибку в рассуждениях Порта относительно сжигания на расстоянии.
Неточная формулировка закона преломления не помешала Кеплеру получить правильное объяснение действия линз. Однако вся теория аберраций оптических систем может быть обоснована только на строгой формулировке этого закона, она была дана Снеллом и Декартом независимо друг от друга в начале XVII в. Первый из них получил ее на основании опыта, второй – на основании общих соображений о природе света, в настоящее время забытых. Декарт на основании открытого им закона дал впервые правильное объяснение радуги (внутренней и внешней) и не смог только объяснить цвета ее; он указал ту форму, которую следовало давать линзам для устранения сферической аберрации, которую считали причиной нерезкости изображений, даваемых линзами, и даже спроектировал станок для шлифовки несферических поверхностей. Только после Декарта стала возможной строгая теория оптических приборов, по крайней мере в области геометрической оптики, т. е. без учета явления дифракции. Великий математик Ферма показал, что закон Декарта может быть получен как следствие его принципа кратчайшего пути.
Можно отметить в течение XVII в. развитие техники изготовления зрительных и астрономических труб, которые в руках астрономов дали ряд важнейших результатов, в частности позволили Рёмеру определить скорость света по наблюдениям спутников Юпитера. Но указанные успехи не носят принципиального характера и касаются лишь постепенного увеличения диаметра объективов. Микроскопы оставались на довольно низком уровне.
Геометрическая оптика после Декарта превратилась в отдел геометрии. Ею завладели математики: Барроу, учитель Ньютона, и сам Ньютон в молодости. Они использовали ее как новое поле для решения задач по геометрии; некоторые задачи оптики, например нахождение каустических поверхностей, определение фокусов тонких пучков, были тесно связаны с рождающимся дифференциальным исчислением. Барроу и Ньютон в своих «Диоптриках» дали немало формул, большинство которых забыто, но некоторые имеют большое значение. Ньютону принадлежат основные формулы параксиальной оптики; он нашел формулы для вычисления сферической аберрации