Выбрать главу

С годами антропологи постепенно завоевывали уважение в компании. Белл получил должность "директора по исследованиям пользователей" и возглавил подразделение "Цифровой дом"; два других социолога - Эрик Дишман и Тони Сальвадор - были назначены руководителями групп "Цифровое здоровье" и "Развивающиеся рынки". Затем эксперименты усилились: по мере того как инженеры внедряли компьютеры и чипы в каждый уголок дома, офиса и автомобиля, антропологи следовали за ними, наблюдая за всем, что им удавалось увидеть.

Например, в 2014 г. Белл и другой антрополог Александра Зафироглу отправились на подземную парковку в Сингапуре, чтобы встретиться с человеком по имени "Фрэнк", который водил белый внедорожник. Для начала они попросили его вынуть все предметы, которые находились в машине, и положить их на полиэтиленовую пленку, чтобы можно было забраться на стремянку и сфотографировать их. Появилась огромная куча предметов. Некоторые из них были ожидаемы: руководство по эксплуатации автомобиля, инструкции к электронным устройствам, Bluetooth-гарнитура, съемная система GPS. Однако большая часть груза не была ожидаемой. Здесь были iPod, калькуляторы, коллекция CD- и DVD-дисков, пульты дистанционного управления для DVD-проигрывателей автомобиля, беспроводные наушники, а также "зонтики, клюшки для гольфа, кредитные карты, игрушки, конфеты, дезинфицирующее средство для рук, маленький Будда, подаренный Фрэнку его матерью, и противоскользящая подушечка, на которой Будда покоился", как позже отметил репортер. Инженерам все это казалось "мусором", не имеющим отношения к великолепной вычислительной технике, которую инженеры разрабатывали для автомобилей. Сам Фрэнк, похоже, был смущен этим "хламом". Как и все другие владельцы автомобилей, с которыми встречались Белл и Зафироглу; они никогда добровольно не говорили об этих предметах. Хлам был не то чтобы спрятан, но и не виден; или виден только до тех пор, пока Белл и Зафироглу не разложили его на пластиковом листе.

Но, будучи антропологами, Белл и Зафироглу считали, что ничто не является просто "беспорядочным" или неважным. То, что мы считаем неловким, является показательным. Изображение на пластиковом листе свидетельствовало о двух вещах. Во-первых, люди "использовали свои автомобили для обеспечения не только физической, но и социальной безопасности", сохраняя символы и ритуалы, разграничивающие их территорию. «Например, в Малайзии и Сингапуре мы с удивлением обнаружили, что люди хранят в своих автомобилях пакеты ang pow (счастливые конверты с деньгами, которые дарят на китайский Новый год) круглый год». Во-вторых, водители автомобилей использовали технику не так, как ожидалось или планировалось. Инженеры установили в автомобили "встроенные системы голосовых команд", чтобы снизить вероятность отвлечения от вождения, и легкомысленно предположили, что это новшество будет использоваться. Потому что, когда водителям задавали прямые вопросы об этой технологии, они отвечали, что используют ее. Но когда антропологи наблюдали за тем, что делают водители на самом деле, а не за тем, что говорят, они увидели, что, когда водителям становится скучно в пробке, они достают свои личные карманные устройства и используют их, а не системы голосовых команд, которые так любовно разрабатывали инженеры. Риторика расходилась с реальностью.

Белл призвал инженеров принять эту модель, а не просто игнорировать или высмеивать ее. Вместо того чтобы предполагать, что водители будут просто использовать устройства, уже установленные в автомобиле, Белл предложил инженерам разработать продукты, которые позволят потребителям синхронизировать свои персональные устройства с автомобилем. В этом заключался более важный урок: раньше инженеры были склонны начинать с инновационной идеи и навязывать ее другим; антропологи же призывали их начать с того, чтобы посмотреть на мир глазами пользователей, во всем их многообразии, и отреагировать на это. Или, как сказала мне Белл в Музее компьютерной истории, урок, который она постоянно пыталась преподнести, заключался в следующем: "Это может быть ваше мировоззрение, но это не мировоззрение всех!". Это было просто сказать, но мучительно трудно запомнить.

К 2015 году фокус группы социальных наук сместился. Когда Белл только пришел в компанию, исследовательская группа большую часть своего времени посвящала изучению того, как потребители реагируют на технологические артефакты, такие как компьютеры, и как они могут вписаться в жизнь людей. Это перекликалось с тем, как интеллектуальные потомки Малиновского, Мида и Боаса изучали взаимодействие между людьми, артефактами, ритуалами, пространством и символами. Однако с наступлением XXI века, когда киберпространство стало занимать все более доминирующее положение, акцент сместился в сторону сетей. Машины перестали быть просто пассивными объектами. Это были интерактивные устройства, практически обладающие способностью к самореализации. Это поставило перед антропологами новые вопросы: Что делать людям, когда машины начинают обладать собственным "интеллектом"? Можно ли запрограммировать культуру в ИИ? Должны ли антропологи изучать интеллектуальные машины как нового "другого"? Как они могут исследовать сети, а не только "вещи" и людей? "То, что сейчас предлагает антропология, - это не просто изучение пользовательского опыта. Речь идет о целостном взгляде на технологию, например, о том, какие ограждения нам нужны для этичной разработки продуктов", - утверждает Шерри. Или, как заметил Андерсон: "Антропология начиналась как изучение «человека" [sic] как животного, в эволюционных и сравнительных рамках. Сегодня новые проявления искусственного интеллекта заставляют нас задуматься о том, что значит быть человеком или нечеловеком. Это выводит ... антропологию за пределы человека». Это породило множество новых вопросов и для инженеров. Мы переходим от менталитета инженеров, которые просто спрашивают, что технологически возможно спроектировать, к миру, в котором мы говорим: "Что мы должны спроектировать?". заметил Лама Нахман, главный научный сотрудник компании Intel. "Это совершенно разные вещи. Для этого нам необходимо рассмотреть социальный контекст".

Поэтому антропологи начали изучать "паутины смысла" вокруг ИИ. Это позволило выявить несколько тонких, но поразительных различий. Например, в Германии оказалось, что потребители с радостью соглашаются на использование искусственного интеллекта в устройствах для ухода за пожилыми людьми на дому, но только при условии, что данные с этих устройств не будут передаваться за пределы дома. Исследователи полагают, что это связано с народными воспоминаниями о прошлой государственной слежке. В Америке, напротив, меньше внимания уделялось тому, будут ли данные, собранные устройствами с искусственным интеллектом, распространяться внутри или вне дома, и больше беспокойства вызывал вопрос о том, будет ли у потребителей "власть" над машиной.

Один из наиболее ярких и чувствительных фрагментов исследования был связан с использованием технологий распознавания лиц в Китае и Америке. Андерсон возглавлял эту работу в составе группы из четырех человек. Это было далеко от тех исследований, которые он проводил в качестве академического антрополога среди традиционных музыкантов на Азорских островах. Однако подход был схожим: терпеливое наблюдение и выслушивание, без предварительных предположений. Проект базировался на полудюжине объектов. Четыре объекта находились в Китае, в основном в городе Ханчжоу, включая торговые и офисные комплексы, а также несколько школ, которые были описаны под псевдонимами "Средняя школа X" и "Средняя школа Z". Два объекта находились в Америке и были описаны под псевдонимами "Святой Николай Мирликийский", частная католическая школа с дошкольного по 8-й классы в джентрифицированном городском районе, и «Департамент шерифа округа Рок». В течение нескольких лет антропологи посещали объекты и наблюдали за тем, как используются технологии распознавания лиц и системы искусственного интеллекта.

Некоторые из наблюдений не вызвали особого удивления. В американских местах группа наблюдала чувство "моральной паники" вокруг ИИ, которое перекликалось с тоном западных СМИ, предупреждавших, что эти технологии угрожают основным американским ценностям, таким как частная жизнь и свобода. Однако, когда антропологи наблюдали за тем, что люди на самом деле делают, а не говорят, они увидели столько же несоответствий, как и в случае с "бардаком" в машинах людей. "Директор школы Святителя Николая Мирликийского недавно установил систему распознавания лиц... чтобы следить за тем, кто входит и выходит из школы, - отметила исследовательская группа. Однако в школе следят только за взрослыми, а не за детьми, чтобы сделать это "безопасным" и "этичным", хотя на самом деле они пытаются обезопасить именно детей. Когда исследователи спросили, зачем школе вообще нужна система искусственного интеллекта, учителя заявили, что "система позволяет директору и секретарю идентифицировать и приветствовать каждого по имени, что, по их мнению, способствует формированию чувства общности... [и] позволяет убедиться, что дети в безопасности, счастливы, здоровы и святы". Однако никто не смог объяснить, как искусственный интеллект помогает детям быть "святыми". Аналогичным образом, в отделе шерифа округа Рок Андерсон обнаружил, что, хотя полиции было разрешено использовать "программное обеспечение для распознавания лиц в распределенной группе по раскрытию преступлений... руководящие принципы для отдела шерифа очень ясны в том, что видео не должно поступать с общественных камер города или округа, а только с частных жилых или коммерческих камер". Почему видеозаписи с камер жилых домов считаются приемлемыми, а с государственных камер - нет, осталось загадкой и для исследователей, и для полиции.