Син не ведется на провокацию.
— И как долго ты ими уже пользуешься?
— Девять, десять месяцев, — говорит она, пожимая плечами.
Поскорее бы закончился этот допрос.
Незадолго до начала перевоплощения Ви, понимает Син сразу же.
— Адам тоже? — спрашивает она как бы невзначай.
— Конечно, — отвечает Салли.
— Значит, это они превратили его из паиньки в сорвиголову?
— Не исключено, — говорит Ви. — Он же хотел стать круче. Наверное, программы ему в этом помогли. Так же, как это сделали бы психиатр, тренер или друг.
— Так вот что ему в голову стрельнуло, — замечает Син и в следующий миг готова сквозь землю провалиться.
— Меткая формулировочка, мам. Респект.
— Простите, пожалуйста, мы все сейчас не в себе, — говорит она.
На дисплее телефона появляется смс от Чарли: «Шеф злой, как собака. Позвони ему».
Следовало ожидать. Но как вовлеченная сторона она не может осветить произошедшее объективно, он должен бы это понимать. Однако завтра ей влетит по полной. Она отгоняет эту мысль.
— Теперь мне понятно, откуда программы так много о тебе знают, — говорит она. — Потому что вы их снабжаете своими данными. Но даже в этом случае максимум, что они могут, — это давать расплывчатые усредненные рекомендации. Как им подстроиться под конкретного человека?
Ви пожимает плечами.
— Понятия не имею, главное, что это работает.
— Сейчас в этой отрасли многое меняется, — просвещает ее Эдди великодушно. — Этого простым людям не понять.
«Мне, например», — думает Син и смотрит украдкой на Анни.
— Как было и как стало? — хочет она знать, хотя поучительный тон Эдди ее раздражает.
Ви закатывает глаза, но Эдди так просто не отвлечешь.
— Очень долго компьютерные программы были обычными счетами. Ты снабжаешь их всеми возможными данными, и они подсчитывают результат. В принципе их работа сводилась к сохранению колоссального объема данных и тупым ответам на запросы.
С нарастающим раздражением Син наблюдает, как Эдди во время лекции поглядывает в свой смартфон, по экрану которого беспрестанно водит большим пальцем. Синхронный просмотр сообщений, однако, никак не сказывается на его красноречии.
— Затем были разработаны программы нового типа. Так называемое машинное обучение предполагает не механические вычисления, а самообучение. Проще говоря, программы теперь выбирают одну из двух возможностей и оценивают результат. Если он оказывается хорошим, в будущем они действуют таким же образом. Если он оказывается плохим, они впредь выбирают вторую возможность. Такая программа, как ребенок, схватившийся за горячую чашку. Он учится на своих ошибках. Но в отличие от людей, программам на это требуются не годы, а сотые доли секунды. Они формулируют собственные правила и предположения, с помощью которых вписываются в окружающий мир. В зависимости от того, в какой сфере ты задействуешь такую программу, она будет использовать различные стратегии и давать различные результаты, чтобы функционировать успешно. Наверное, ты слышала, что компьютеры обыгрывают гроссмейстеров в шахматы и побеждают людей в викторинах на эрудицию.
Син кивает, ощущая в глубине души тревогу.
— Ты хочешь сказать, что эктаппы знакомятся со мной так же, как люди? Сталкиваются со мной и, исходя из моих реакций, делают обо мне выводы?
— В принципе, да. А благодаря анализу больших данных, например распознаванию закономерностей и нахождению корреляций, они в какой-то момент будут знать тебя лучше, чем ты знаешь себя.
— Умеешь ты утешить, — говорит она сухо.
Она пытается осознать то, что ей сейчас поведал Эдди.
— И как далеко они зашли? Они покрывают все сферы жизни? А программист вообще в состоянии разобраться, как программа принимает свои решения?
— По-разному. Но сейчас все больше программ, в которых уже невозможно разобраться.
— Ты хочешь сказать, что уже никому не понять, почему программа, например, рекомендовала сбить подозрительный пассажирский самолет или расстрелять предполагаемого террориста из дронов? Что руководитель разведывательной службы США скажет перед сенатом: «Мы этого не знаем. И никто этого знать не может»?
— Он так не выразится, — возразил Эдди. — Хотя должен бы признаться.
У Син голова идет кругом. Охотнее всего она отсоединилась бы от этого цифрового мира. Но, увы, это невозможно.
— Комментарии к нашему посту зашкаливают, — констатирует Ви удовлетворенно, взглянув на свой смартфон. — И практически все на нашей стороне.