Во-вторых, люди хорошо умеют объяснять свои решения. Это не менее важно, чем умение их принимать. Я могу не согласиться на операцию, если врач не сможет объяснить, почему она необходима. Ядерный реактор должен объяснить, почему он прекращает работу. Системы же ИИ всё еще остаются черными ящиками[26]. Они дают ответы, но не объясняют, как их получили. Алгоритм глубокого обучения может определить, что на фотографии кошка, но не сможет сказать, как он это определил. По наличию шерсти или четырем милым лапкам? Он также не может сказать, почему это не собака. Нам нужно создать такой ИИ, который будет способен объяснить свое решение.
В-третьих, люди хорошо понимают мир, в котором живут. Когда мы рождаемся, мы почти ничего не знаем о том, как он устроен. Вот яблоко падает на землю из-за гравитации. Вот дождь – выпаренная влага, капающая с неба. Вот Земля вращается вокруг Солнца, а Луна – вокруг Земли. Разумеется, Луна подчиняется тем же законам гравитации, что и яблоко. Мы выучили все это и многое другое. Мы собираем информацию и синтезируем ее в общее представление о том, как работает наша Вселенная.
Современные ИИ на такое не способны. Если вы предлагаете компьютеру перевести фразу «мужчина был беременным», он не поймет, что она звучит странно. Если показать ему картинку человека, выпускающего из руки яблоко, он не сможет определить, что яблоко впоследствии упадет на землю с ускорением в 9,8 м/с2. Нам все еще необходимо разработать ИИ, который будет иметь цельное представление о мире. Систему, которая обладала бы нашим здравым смыслом.
В-четвертых, люди хорошо умеют адаптироваться. Помести нас в новую ситуацию – мы тут же начнем приспосабливаться к ней. Когда на космическом корабле «Аполлон-13» взорвался бак с кислородом, весь мир затаил дыхание, пока астронавты и диспетчеры адаптировались к невозможным условиям и вернули экипаж на Землю невредимым.
Умение приспосабливаться и сделало нас доминирующим видом (и не только как в описанном выше случае) на планете.
Системы ИИ – довольно хрупкая вещь. Малейшие изменения в поставленной задаче нарушают ее работу. Существует специальная область изучения ИИ, занимающаяся поиском причин, по которым система работает некорректно. Какие изменения во внешнем виде знака «стоп» могут помешать ИИ его распознать? Какие похожие объекты он может принять за этот знак?
Нам еще предстоит создать такую систему ИИ, которая выходит из строя постепенно, как человек.
Сколько нам осталось?
С некоторыми узкими задачами машины справляются гораздо лучше человека. Однако мы все еще даже не приблизились к тому, чтобы построить ОИИ. Когда это произойдет? И как скоро после этого компьютеры станут умнее людей? Создаст ли это для нас проблемы? Или для наших детей и внуков? Учитывая миллионы лет, которые потребовались для возникновения человеческого разума, возможно, это произойдет не так скоро? Возможно, через века или даже тысячелетия? А может, вовсе никогда не случится?
На конференции 2017 года в «Асиломаре», посвященной будущему ИИ, Эндрю Макафи заметил: «Любой, кто уверенно озвучивает предсказания, связанные с будущим ИИ, врет либо вам, либо самому себе». Я постараюсь проигнорировать этот мудрый совет и все же попытаюсь сделать прогноз. Вообще-то, я не буду ничего предсказывать сам, за меня это сделает толпа экспертов в области ИИ. Понадеемся, что она кое-что смыслит в теме.
В январе 2017 года я попросил триста моих коллег, ученых, занимающихся искусственным интеллектом, дать оценку тому, сколько времени понадобится, чтобы преодолеть препятствия на пути к ОИИ. Я также опросил около пятисот человек, не являющихся экспертами в этой области, чтобы поместить утверждения моих коллег в контекст.
Люди, не имеющие отношения к ИИ, – читатели моей новостной статьи о программе Libratus, которая выиграла в покер у нескольких выдающихся игроков. В конце статьи я попросил читателей поучаствовать в небольшом опросе о противостоянии человека и машины. Я ожидал несовпадения между результатами этого опроса и мнением экспертов. И оказался прав.
Учитывая, что время, которое потребуется на создание ИИ, способного конкурировать с человеком, невозможно определить с точностью, опрос включал в себя три пункта. Когда вероятность того, что компьютер сможет заменить человека (хотя бы среднего специалиста) во всех профессиях, будет составлять десять процентов? Когда эта вероятность вырастет до пятидесяти процентов? А когда до девяноста? Это повторение вопросов из исследования 2012 года, опубликованного в книге Ника Бострома «Искусственный интеллект»[27]. Я хотел посмотреть, стали ли люди называть более близкие даты по сравнению с 2012 годом по причине всей шумихи, которая создавалась вокруг ИИ в последнее время. Опрос, проведенный Бостромом, был одним из главных доказательств его теории, что ИИ представляет относительно близкую угрозу для человечества. Если создание ОИИ ожидается в скором будущем, нам придется воспринять его предупреждение всерьез.
27
Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фербер, 2016.