Искусственный интеллект сегодня помогает врачам в диагностике заболеваний, разработчикам — в создании программного обеспечения, также он применяется в налаживании системы беспилотного городского транспорта Лос-Анджелеса. "Фейсбук" распознает лица на фотографиях лучше любого человека. "Амазон" теперь настолько хорошо знает наши пожелания, что компания переходит к отправке предметов в распределительные центры рядом с нами еще до того, как мы их закажем. Вопреки расхожему мнению, компьютерные программы могут быть даже творческими: например, они полностью автономно пишут газетные статьи о спортивных событиях и событиях на бирже. В увлекательном эксперименте "Гугл" использовал свои алгоритмы распознавания изображений, чтобы "интерпретировать" объекты в изображения облаков или пейзажей, создавая причудливые произведения искусства, которые могли бы выйти из-под кисти художника-сюрреалиста.
В то время как в девяностых и двухтысячных искусственный интеллект представлял собой всего лишь одну из ниш в разработке программного обеспечения, сегодня он стал одним из основных конкурентных факторов во многих отраслях в гонке за лидерство на рынке. Все крупные поставщики программного обеспечения инвестируют миллиардные суммы в соответствующие исследовательские центры или покупают стартапы, которые могут быть успешными в этой области.
Никто не знает, сколько времени потребуется компьютеру, чтобы превзойти по работоспособности человеческий мозг. По оценкам экспертов, этот срок варьируется от 2030 года до второй половины нашего века. Но уже сейчас ясно, что компьютерные программы, построенные на принципах так называемого искусственного интеллекта, будут всё больше доминировать в разных сферах нашей повседневной жизни. Они уже сейчас советуют нам, какую музыку слушать, какие книги читать, с какими потенциальными любовными партнерами встречаться. В будущем они смогут автоматически писать за нас электронные письма ("Гугл" уже работает над соответствующей функцией) или давать нам советы, как оптимально вести себя на первом свидании. — с учетом, конечно, интересов и наклонности наших партнеров. Всё больше и больше мы полагаемся на правильность этих рекомендаций, и они в основном таковы и есть. Системы, которые мы используем, всё лучше и лучше знают нас, потому что созданные по нашим данным модели всё более точно соответствуют нашему реальному мышлению и поведению.
Однако в таком развитии есть и огромные риски, это совершенно очевидно. Сегодня об этом предупреждают уже не только авторы триллеров, описывающие опасности безудержного и неконтролируемого технического прогресса. Физик Стивен Хокинг видел в развитии искусственного интеллекта, производительность которого превышает аналогичные возможности нашего мозга, опасность для выживания человечества. Основателя "Пэй-Пала", "Теслы" и "Спейс-Икс" Илона Маска, конечно, сложно назвать технофобом, но и он неоднократно предупреждал об опасности неконтролируемого развития искусственного интеллекта. Маск подписал обращение, направленное против разработок автономных систем интеллектуального оружия, к которому присоединились многочисленные исследователи и ученые из разных стран мира.
В своей замечательной работе "Суперинтеллект" философ Ник Востром предрекает, что мы столкнемся с огромными трудностями, прежде чем компьютер с интеллектом, превосходящим человеческий, научится делать правильные, с точки зрения человека, выводы.
На фоне всех этих событий мне быстро стало ясно, что переписыванием моего романа "Система" дело не ограничится. Историю искусственного интеллекта, ускользающего от контроля своих человеческих создателей, пришлось пересказать полностью. Самое важное отличие новой книги от моего первого романа заключается в том, что на этот раз главные герои борются не с автономно действующей "злой" компьютерной системой, а с вышедшим из-под контроля зловещим альянсом, состоящим из манипулирующих устройств и их наивно-эгоистичных пользователей. Это кажется мне гораздо более реалистичным сценарием.
На этот раз моему воображению почти не приходилось выходить за рамки того, что уже сегодня технически возможно. Например, Зеркало, описанное в настоящем романе, имеет вычислительную мощность, которая примерно в десять раз выше, чем у "Айфона-6", и, вероятно, будет стандартной для новых смартфонов в течение следующих трех-пяти лет. Описанные методы интерпретации речи и механизмы развития нейронных сетей уже существуют и применяются такими компаниями, как "Гугл", "Фейсбук" и "Амазон", чтобы предсказывать и более или менее тонко влиять на поведение людей.
Конечно, я все-таки позволил себе несколько творческих вольностей. Я не утверждаю, что такая система, как зеркальная сеть, будет вести себя в реальности именно так, как я описал ее в этом романе. А люди, которые в какой-то момент смогут купить себе устройства, похожие на Зеркала, надеюсь, не будут такими глупыми и наивными, как некоторые из персонажей этой книги. С другой стороны, история показывает, что мы, люди, склонны игнорировать опасности и недостатки новых технологий, если их преимущества кажутся нам достаточно привлекательными. Глобальное потепление — лишь один из примеров. Когда я вижу, с какой готовностью большинство пользователей (включая меня) оставляют данные о себе и своих привычках в интернете, то начинаю опасаться, что наша коллективная наивность обойдется нам очень дорого.
Но я не пессимист. Как автор технотриллеров, я считаю своей задачей попытаться осознать возможные негативные последствия технического прогресса. Однако это не значит, что я боюсь техники. Я сам основал несколько высокотехнологичных компаний и среди прочего вместе с двумя товарищами по команде разработал приложение "Папего", которое позволяет читать печатные книги, подобные этой, на смартфоне. Если кто-нибудь когда-нибудь изобретет такое устройство, как Зеркало, я буду одним из первых покупателей новинки.
Наша проблема не техника, а то, как мы её используем. Мы (то есть вы, дорогие читатели) держим в наших руках возможности, которые приведут нас или к новым техническим прорывам грядущих десятилетий и в лучшее будущее, или в оруэлловскую антиутопию, мир тотального наблюдения и диктата машин. Я надеюсь, что своим романом побудил вас задуматься.
Гамбург, апрель 2016 года
Литературно-художественное издание
Для лиц старше 16 лет
Генеральный директор Мария Смирнова
Главный редактор Антонина Галль
Ведущий редактор Янина Забелина
Художественный редактор Александр Андрейчук
Издательство "Аркадия" Телефон редакции: (812)401-62-29 Адрес для писем: 197022, Санкт-Петербург, а/я 21
Подписано в печать 10.02.2021.
Формат издания 84x108 1/32. Печ. л. 16,0. Печать офсетная. Тираж 4000 экз.
Дата изготовления 15.03.2021. Заказ № 2101770.
Отпечатано в полном соответствии с качеством предоставленного электронного оригинал-макета в ООО "Ярославский полиграфический комбинат 150049, Ярославль, ул. Свободы, 97
Произведено в Российской Федерации Срок годности не ограничен
По всем вопросам, связанным с приобретением книг издательства, обращаться в ТФ "Лабиринт": тел.: (495) 780-00-98 www.labirint.org
Заказ книг в интернет-магазине "Лабиринт": www.labirint.ru