Павел Амнуэль.
Искусственный интеллект – враг или друг?:
С тех пор, как Карел Чапек придумал биологических роботов, взбунтовавшихся против создателей, писатели-фантасты тысячи раз описывали "бунт машин", "восстание роботов", апокалипсис и постапокалипсис. Были, конечно, и произведения, где роботы мирно сосуществовали с людьми, выполняли за них физическую работу, помогали и заботились. Характер предсказаний фантастов определялся не столько реальными тенденциями в развитии кибернетики, сколько личными эмоциями. Стивен Кинг писал о бунте машин и нагонял на читателей страха, а в мире Айзека Азимова робот готов пожертвовать собой ради спасения человека.
Пока фантасты описывали далекое будущее, ученые и конструкторы это будущее приближали, создавая все более совершенные роботизированные системы, которые решали поставленные людьми задачи и справлялись с поставленными людьми проблемами. Появился термин "искусственный интеллект" (ИИ; в англоязычной литературе: Artificial Intelligence, AI). ИИ обучали переводить с языка на язык все более сложные филологические конструкции, распознавать все более сложные изображения. Автоматические межпланетные станции (тоже ИИ!) проводят в космосе исследования с такой точностью и надежностью, какие вряд ли можно ожидать от живого космонавта. А по дорогам стали ездить автомобили без водителя - пока только экспериментальные, но лиха беда начало! ИИ обыгрывал чемпиона мира по шахматам, а теперь и в старинной интеллектуальной игру Го не знает себе равных. Современный ИИ может поддерживать довольно сложный разговор с человеком.
Надо уточнить: ИИ на самом деле интеллектом в нашем обычном понимании не обладали и не обладают до сих пор. Это очень сложные кибернетические системы, во многих случаях моделирующие сложнейшие нейросети. Однако ИИ- шахматист ничего не знает об игре в Го, а ИИ-водитель не умеет отличить ямб от хорея.
Ситуация с ИИ сейчас, тем не менее, качественно отличается от той, что была всего десять лет назад. Недалеко время, когда ИИ превзойдет человека по всем параметрам: будет не только быстрее решать поставленные задачи и делать за человека всю физическую работу. Он сможет ставить задачи самостоятельно и изобретать новые интеллектуальные системы. Создатели ИИ уже и сейчас зачастую не понимают, в результате каких "умственных построений" искусственный интеллект приходит к тому или иному выводу.
Страхи фантастов по поводу того, что ИИ в будущем захватит власть над миром, занимают теперь ученых, инженеров, предпринимателей и даже политиков. Качественный скачок подготовлен, назрел и вот-вот произойдет. Завтра системы с искусственным интеллектом станут умнее и сильнее нас во всех отношениях - и что тогда?
В 2014 году известнейшие ученые, в числе которых были Стивен Хокинг, Фрэнк Вильчек (нобелевский лауреат по физике) и Стюарт Расселл (крупнейший специалист по ИИ), опубликовали открытое письмо- обращение к создателям новых систем ИИ, а по сути - к всему человечеству. Письмо называлось "Преодоление самодовольства по отношению к сверхразумным машинам" ("Transcending Complacency on Superintelligent Machines"), и суть послания ясна из названия. Тогда же известный предприниматель и инженер Илон Маск заявил, что "развивать искусственный интеллект - все равно что вызывать демона". Опасаются появления ИИ основатель Microsoft Билл Гейтс, изобретатель Всемирной паутины Тим Бернерс-Ли и сооснователь Apple Стив Возняк, сказавший: "Они будут думать быстрее и избавятся от медленных людей".
Мы, люди, кладем головы в пасть льва и не знаем, сомкнет зверь челюсти или нет. Думать об этом нужно сейчас, потому что от создания истинного ИИ нас отделяют уже не десятилетия, а годы. Через несколько лет решать проблему будет поздно. ИИ изменится качественно, и жить мы будем в новом мире.
Призыв ученых не остался неуслышанным. Апокалиптические прогнозы всегда производят большее впечатление, чем спокойные и серьезные дискуссии, в том числе о будущих рисках.
Насколько риск реален? Чтобы ответить на этот вопрос, нужно ответить на вопрос более общего характера: сможет ли ИИ ставить перед собой личные цели, ни в коей мере человеком не определяемые?
Если некто (человек, а не ИИ) совершил убийство, это означает одно из двух: либо он обдумал свои действия заранее, то есть ставил перед собой цель - убить ближнего своего, либо действовал в состоянии аффекта, под влиянием внезапных страстей.
Потенциальный убийца должен, по идее, обладать сознанием и самосознанием, должен захотеть совершить убийство. Умение независимо ставить перед собой цель, заранее не заложенную в программе поведения, - к этому должен прийти ИИ, если мы говорим, что он когда-нибудь решит избавиться от человечества. ИИ должен поставить перед собой цель - власть над миром. Человечество мешает достижению этой цели. Это мотив для убийства.