«Решение очевидно, – говорят инженеры в эссе Деннета. – Наш следующий робот должен уметь учитывать не только желаемые последствия своих действий, но и последствия их побочных эффектов, выводя их из описаний, которые использует при построении планов». И во втором сценарии, добравшись до тележки и батареи, робот останавливается, чтобы рассчитать последствия своих действий. Он приходит к выводу, что выкатывание тележки не изменит цвет стен комнаты, но в то же время будет означать вращение колес, а еще… Ба-бах!
«Нужно научить его отличать важные выводы от неважных», – сказали инженеры. «И не обращать внимания на неважные», – пишет Деннет. На этот раз робот обнаруживает себя за пределами комнаты с задумчивым выражением на лице. В этот момент он очень похож на Гамлета. «Сделай что-нибудь!», – кричат ему. «Я делаю, – отвечает он, – я напряженно игнорирую тысячи выводов, которые согласно моему алгоритму не важны. Как только я прихожу к неважному выводу, я помещаю его в список тех, которые должен игнорировать, и…» Ба-бах!
Три сценария Деннета превосходно иллюстрируют три элемента работы с фреймами. В первом сценарии робот не справился с простейшими причинно-следственными связями. Во втором не смог быстро построить важные контрфактические предположения. В третьем попытался применить слишком много ограничений и оказался парализован. «Машина, – заявляет Деннет, – может производить огромные объемы расчетов, применяя при этом множество правил формальной логики и перемалывая горы данных, но она не способна к фреймингу».
В области искусственного интеллекта многое изменилось с тех пор, как Деннет создал свои сценарии. Ему больше не нужны люди, чтобы загружать в машины абстрактные правила. Вместо этого самые популярные методы сегодняшнего дня – машинное и глубокое обучение – подразумевают, что система отчасти оптимизирует себя сама, обучаясь на больших массивах данных. Но трудность не перестала существовать оттого, что процесс изменился. Даже снабженный большими объемами обучающих данных робот может оказаться в тупике, столкнувшись с новым для себя явлением, например, с тикающей бомбой.
Фрейминг, то есть отражение некоторых существенных свойств реальности при помощи ментальной модели с целью разработки эффективного плана действий – одна из тех вещей, на которые человек способен, а машины нет.
Книги по самосовершенствованию призывают читателей «мыслить нестандартно». Они используют английскую метафору для творческого мышления, не стесненного привычными ограничениями, которая дословно переводится как «мысленно выйти за рамки». Выражение пришло из эксперимента по бизнес-психологии под названием «тест с девятью точками». Его популяризировал в 1960-х годах британский теоретик менеджмента Джон Адэр, хотя сам тест появился раньше. Он входил в «Энциклопедию головоломок», вышедшую в 1914 году в Америке, и использовался в психологических экспериментах по творческому мышлению в 1930-е. Его использовали при подготовке руководящего состава в Walt Disney Company. Посвященные ему научные статьи продолжают выходить и по сей день.
В задаче о девяти точках требуется соединить три ряда точек по три штуки в каждом с помощью четырех линий, не отрывая карандаша от бумаги. Наш ум воображает, что точки находятся внутри квадрата, но единственный способ решить задачу – начать чертить вне воображаемой границы. Отсюда и выражение «мысленно выйти за рамки». Общая мысль, которая здесь проповедуется, – решение легче найти, если оставить существующие ментальные модели.
Может быть, тест с девятью точками в самом деле помогает увидеть варианты, остававшиеся незамеченными, но метафора «мысленно выйти за рамки» неверна по сути. Будучи людьми, мы не можем не строить фреймы. Этот навык невозможно отключить, он работает безостановочно. Единственное, что мы можем выбирать – это какой фрейм использовать и насколько хорошо нам удастся с этим справиться. Даже если бы мы смогли мыслить вне фреймов, ценность результата оказалась бы сомнительной. Фреймы устанавливают границы – без них мы можем предаваться ярким фантазиям, абсолютно не способным превратиться в эффективные варианты практических действий. Столкнувшись с тикающей бомбой, подобно роботу Деннета, мы можем уповать только на божественное вмешательство, неожиданное появление специалиста по обезвреживанию взрывных устройств, или же на собственное умение уговорить бомбу не взрываться. Все эти варианты будут лежать «за рамками», но вряд ли окажутся эффективными.