В лагере антиутопистов не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация», сравнивая его создание с «призывом демонов».
По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество.
Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность, по мнению антиутопистов, состоит в том, что если люди окажутся препятствием на пути к достижению одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть людей с лица Земли. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь требуемого ему результата. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», причём она беспокоит даже тех, кто относится к СИИ с оптимизмом.
Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Ник Бостром, автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии», вышедшей в 2014 г., приводит мнение специалистов по ИИ, которые склоняются к тому, что СИИ появится к 2040 г., а суперинтеллект, скорее всего, в течение трёх десятилетий после этого.
В то же время Кай-Фу Ли считает, что ни один из вышеописанных сценариев, будь то бессмертный цифровой разум или всемогущий суперинтеллект, нельзя реализовать на основе современных технологий – учёные пока ещё не нашли чётких алгоритмов для СИИ и не особенно приблизились к их открытию. Сингулярность не может возникнуть спонтанно и автономные транспортные средства, в которых используются технологии глубокого обучения, не могут внезапно «проснуться» и понять, что способны объединиться и сформировать сверхразумную сеть.
Создание сильного ИИ потребует целого ряда фундаментальных научных открытий в области искусственного интеллекта. Эти прорывы помогут убрать основные ограничения узкоспециализированных программ на основе ИИ и наделить их множеством новых способностей, к которым относятся понимание естественных языков, здравый смысл, обучение на небольшом количестве примеров, умение строить планы и рассуждать.
На следующем этапе, чтобы создать эмоционально-интеллектуальных роботов, отмечает Кай-Фу Ли, нам понадобится каким-то образом дать им самосознание, чувство юмора, любовь и сострадание, способность восхищаться красотой. Эти задачи исключительно сложны, а создание сильного ИИ всё ещё выглядит недостижимой целью.
С этим выводом Кай-Фу Ли можно согласиться. Так как здесь идёт речь уже о создании, фактически, подобия (прообраза) живого существа. Чтобы обладать самосознанием, эмоциями и чувствами, человечество прошло десятки тысяч лет эволюционного развития. А тут такой размах. И всё же уже сама постановка этой задачи не может не вызывать восхищения могуществом современного человеческого разума.
И далее автор пишет, что, по его мнению, «пройдёт ещё немало десятилетий, если не веков, прежде чем СИИ и суперинтеллект станут реальностью». Существует также объективная вероятность того, продолжает Кай-Фу Ли, что люди так никогда и не смогут создать СИИ. Искусственный интеллект произведёт переворот в отношениях между людьми и машинами – многие даже считают, что его появление станет самым выдающимся событием в истории человечества. Но Кай-Фу Ли полагает, что это та грань, которую нам не следует переходить, пока не решены все проблемы, связанные с контролем и безопасностью. По крайней мере, Кай-Фу Ли и некоторые другие эксперты считают, что мы гораздо дальше от создания СИИ, чем принято думать.
Здесь просматривается некоторый страх перед грядущим. А учёные не имеют права бояться, иначе им не следует заниматься наукой. Другое дело, что необходимо стремиться просчитывать как положительные, так и негативные последствия тех или иных открытий. Впрочем, всё это проявляется на практике, когда научные достижения внедряются в повседневную человеческую жизнь.