Выбрать главу

Об автономии субъекта:

По мере того как люди все меньше используют свой мозг и больше — машины, они могут утратить собственные способности. Наши навыки критического мышления, письма и дизайна могут атрофироваться.

О знаниях:

Каким образом обучающаяся машина хранит свои знания, перерабатывает их и извлекает, по-прежнему остается неизвестным. <…> Наука эпохи Просвещения накапливала определенности; новый ИИ аккумулирует двусмысленности.

Таким образом, ChatGPT поднимает вопрос о просвещении. Как мы видим человека? Как автономного субъекта, способного выявить причинно-следственную связь? Или как индивида, порабощенного игрой корреляций?

В технологиях нет ничего неизбежного. Это инструмент, который должен быть адаптирован к нашему представлению об истине, к нашим политическим и социальным принципам. Но не наоборот…

Прогресс не равен инновации. Прогресс заключается не в слепом принятии всего нового, а в том, чтобы учиться на сделанных ошибках.

Именно это предлагает моя книга, и я надеюсь, что сегодня она актуальна как никогда.

Гаспар Кёниг
Апрель 2023.

Homo deus

Sorry, I can’t help you. «Извините, ничем не могу вам помочь», — вот так лаконично ответил на мою просьбу об интервью Элиезер Юдковский, один из передовых исследователей искусственного интеллекта в Кремниевой долине. Едва ли можно лучше показать пропасть, отделяющую властителей технологий от широкой публики; тех, кто создает алгоритмы, — от тех, кто живет под их властью; и, наконец, тех, кто пишет строки кода, — от тех, кто пытается их понять.

Sorry, I can’t help you. Иначе говоря: я хотел бы, но правда не могу. Как варвар, который никогда не занимался программированием, профан, который с трудом справляется с PowerPoint, может понять все тонкости «глубокого обучения»? Цель здесь одна: «Мы делаем мир лучше», make the world better. Мы не задаемся вопросами, мы решаем проблемы. Философская болтовня, роскошь праздного рассудка, — не наша забота. Так Горгий ответил Сократу: все это ребячество надо немедленно прекратить.

Sorry, I can’t help you. Не удивлюсь, если это сообщение было автоматически сгенерировано Gmaiclass="underline" Юдковский, должно быть, получает кучу подобных запросов. Алгоритм должен научиться распознавать их и выдавать подходящий ответ. Что может быть естественнее искусственного интеллекта, отвечающего на вопросы об искусственном интеллекте?

Однако сегодня нам жизненно необходимо говорить друг с другом и помогать друг другу, чтобы понять те грандиозные сдвиги, которые наводят страх на наши сообщества, смешивают карты наших экономических систем, сотрясают наши политические структуры и вторгаются в саму нашу жизнь, вынуждая нас разрываться между надеждой на прогресс и страхом будущего. В прежние периоды технологических перемен мыслители, изобретатели, ученые, инвесторы и политики сосредотачивались в определенных местах, нервных центрах «миров-экономик», описанных Фернаном Броделем. Эти города-миры представлялись не только средоточиями экономики, но также местами высокой культуры. «Блеск, богатство, радость жизни соединяются в центре мира-экономики, в его сердце. Именно здесь, под солнцем истории, жизнь обретает свои самые яркие цвета»[1]. Так все и было: Спиноза посеял семена философии имманентности в Амстердаме, столице золотого века; Адам Смит разработал теорию капитализма в Эдинбурге, в сердце промышленной революции; а Маркс осмыслил классовую борьбу в викторианском Лондоне. Города служили полюсами притяжения и интеллектуальными тиглями: кипящие умы производили в них странные, рискованные и порой чудесные смеси. Сегодня «мозги» разбросаны гораздо шире: никто не может сказать, где находится мировой центр искусственного интеллекта. Даже Кремниевая долина с ее спальными пригородами не может сойти за образец «счастливой жизни»; Сан-Франциско, ставший одним из самых дорогих городов в мире, выдавливает молодых изобретателей; калифорнийская контркультура 1970‐х вырождается в явное безразличие ко всему, что касается гуманитарных наук, словно бы страсть к переменам уничтожила всякую антропологическую рефлексию, а человек стал просто тестом, из которого можно вылепить что угодно, не считаясь с биологией или историей. Впрочем, несколько лет назад журнал The Economist предлагал лидерам «технологий» учиться философии, но безуспешно[2]. Может быть, больше нет никакого города-мира?

вернуться

1

Бродель Ф. Динамика капитализма. Смоленск: Полиграмма, 1993. С. 95. — Здесь и далее примечания автора, если не указано иное.

вернуться

2

Philosopher kings // The Economist. 2014. Oct 4. URL: https://www.economist.com/business/2014/10/04/philosopher-kings