И с каждым годом персоны, создаваемые ИИ, становятся все более реалистичными, раздвигая границы. В видеоиграх появляются сгенерированные ИИ неигровые персонажи, появляются первые персонализированные фильмы с ИИ, в которых вы можете сами выбирать, как будут развиваться сцены или персонажи. Становится более привычным пользоваться услугами ИИ-терапевта, а взаимодействие со смесью реальных людей и ИИ-чатботов становится обычным способом ведения бизнеса. И снова замедление роста ИИ дает возможность обществу приспособиться к этим изменениям. Законы требуют маркировать контент ИИ, а социальные нормы, касающиеся использования чат-ботов в качестве друзей, продолжают следить за тем, чтобы большинство людей проводили свое время с реальными людьми.
Работа все больше трансформируется. Каждый год модели искусственного интеллекта делают больше, чем они могли сделать годом ранее, создавая волны, которые прокатываются по всем отраслям. Во-первых, рынок колл-центров стоимостью 100 миллиардов долларов в год трансформируется, поскольку агенты ИИ начинают дополнять людей. Далее, большинство рекламных и маркетинговых текстов выполняются в основном ИИ при ограниченном руководстве людей-киборгов. Вскоре ИИ будет выполнять множество аналитических задач и все больший объем работы по кодированию и программированию. В целом, однако, более медленные темпы изменений означают, что эта волна разрушений похожа на те, что были в прошлом у технологий общего назначения. Задачи меняются чаще, чем рабочие места, и рабочих мест создается больше, чем уничтожается. Серьезное внимание к переобучению и нацеливанию навыков на работу с ИИ поможет снизить наихудшие риски.
Но начинают появляться и первые преимущества для всего общества. В последние десятилетия темпы инноваций тревожно замедляются. Так, в недавней, убедительной и удручающей статье говорится о том, что темпы изобретательства снижаются во всех областях, от сельского хозяйства до исследования рака. Для продвижения вперед требуется больше исследователей. По сути, скорость инноваций падает на 50 процентов каждые 13 лет, что замедляет экономический рост.
Отчасти это связано с растущей проблемой самих научных исследований: их слишком много. Бремя знаний увеличивается, поскольку слишком много нужно узнать, прежде чем новый ученый получит достаточно опыта, чтобы начать проводить исследования самостоятельно. Именно поэтому половина всех новаторских открытий в науке теперь происходит после сорока лет, тогда как раньше прорывы совершали молодые ученые. Аналогичным образом, за последние 20 лет число начинающих докторов наук в области STEM снизилось на 38 %. Природа науки становится настолько сложной, что основателям PhD для достижения прогресса требуются большие команды и административная поддержка, поэтому они обращаются в крупные фирмы. Таким образом, мы имеем парадокс нашего Золотого века науки. Больше исследований публикуется большим количеством ученых, чем когда-либо, но в результате прогресс замедляется! Из-за того, что читать и усваивать приходится слишком много, в более переполненных статьями областях меньше цитируют новые работы и больше канонизируют высокоцитируемые статьи.
Но уже есть признаки того, что ИИ может помочь. Исследования успешно продемонстрировали, что можно правильно определить наиболее перспективные направления в науке, анализируя прошлые работы с помощью ИИ, в идеале сочетая человеческую фильтрацию с программным обеспечением ИИ. Другие работы показали, что ИИ демонстрирует значительные перспективы в автономном проведении научных экспериментов, поиске математических доказательств и т. д. Возможно, достижения в области ИИ помогут нам преодолеть ограничения нашей чисто человеческой науки и приведут к прорыву в понимании Вселенной и самих себя. Многие из энтузиастов ИИ, которые изначально были на сайте , на самом деле рассчитывают на то, что ИИ поможет найти способы радикально продлить и улучшить жизнь человека. Хотя линейный рост возможностей ИИ, возможно, и не сможет достичь этой высокой цели, если она вообще достижима, это поможет перезапустить замедляющиеся двигатели прогресса.
Можно рассматривать этот сценарий как плавное повышение температуры с течением времени. ИИ будет играть все большую и большую роль в нашей жизни, но постепенно, так, чтобы срывы были управляемыми. Кроме того, мы начинаем видеть и некоторые из основных преимуществ ИИ: ускорение научных открытий, рост производительности труда и расширение возможностей для образования людей по всему миру. Результаты неоднозначны, но в основном положительны. И люди по-прежнему контролируют направление, в котором движется ИИ.
Однако развитие ИИ не было линейным.
Сценарий 3: Экспоненциальный рост
Не всякий технологический рост быстро замедляется. Закон Мура, согласно которому вычислительные возможности компьютерных чипов удваиваются примерно каждые два года, действует уже пятьдесят лет. ИИ может и дальше ускоряться подобным образом. Одной из причин этого является так называемый маховик - компании, занимающиеся разработкой ИИ, могут использовать системы ИИ для создания следующего поколения программного обеспечения для ИИ. Как только этот процесс начнется, его будет трудно остановить. И такими темпами ИИ станет в сотни раз более способным в следующем десятилетии. Люди не очень хорошо представляют себе экспоненциальные изменения, и поэтому наше видение начинает в большей степени опираться на научную фантастику и догадки. Но мы можем ожидать масштабных изменений повсюду. Все, что описано в сценарии 2, происходит, но гораздо, гораздо, гораздо быстрее, и нам, соответственно, труднее это воспринять.
В этом сценарии риски более серьезны и менее предсказуемы. Каждая компьютерная система уязвима для взлома ИИ, а кампании влияния с помощью ИИ проводятся повсеместно. ИИ, все еще контролируемые людьми, генерируют новые опасные патогены и химические вещества, помогая правительствам и террористическим ячейкам достичь новых методов разрушения. Уже были признаки того, что это происходит с примитивными, до-LLM ИИ: Исследователи ИИ, создававшие инструмент для поиска новых лекарств, спасающих жизни людей, поняли, что он может делать и обратное - генерировать новые боевые отравляющие вещества. В течение шести часов на сайте был изобретен смертоносный нервно-паралитический газ VX... и кое-что похуже. При широком распространении мощных ИИ военные и преступники используют ИИ для усиления своих усилий. И в отличие от предыдущего сценария, наши нынешние правительственные системы не успевают приспособиться обычным способом.
Вместо этого "плохие" ИИ сдерживаются "хорошими" ИИ. Но в этом решении есть и оруэлловский оттенок. Все, что мы видим, должно быть отфильтровано через наши собственные системы ИИ, чтобы удалить опасную и вводящую в заблуждение информацию, что создает собственный риск возникновения "пузырей фильтров" и плохой информации. Правительства используют ИИ для борьбы с преступностью и терроризмом с помощью ИИ, что создает опасность ИИ-тократии, поскольку вездесущая слежка позволяет как диктаторам, так и демократическим государствам установить больший контроль над гражданами. Мир больше похож на киберпанковскую борьбу между властями и хакерами, использующими системы ИИ.
ИИ-компаньоны становятся гораздо более привлекательными для общения, чем большинство других людей, и могут беспрепятственно общаться с нами в режиме реального времени, причем эти изменения происходят быстрее, чем кто-либо ожидал. Одиночество становится менее актуальным, но появляются новые формы социальной изоляции, когда некоторые люди предпочитают общаться с ИИ, а не с людьми. Развлечения на базе ИИ обеспечивают невероятно индивидуальный и уникальный опыт, сочетающий игры, истории и фильмы. Это не значит, что все станут интровертами и будут общаться только с искусственными интеллектами. В этом сценарии они все еще не являются разумными, и люди все равно захотят делать человеческие вещи с другими людьми.
А в работе с людьми ИИ может помочь раскрыть человеческий потенциал. ИИ-терапевты и ассистенты помогают людям, которые хотят самосовершенствоваться, делать это по-новому. Возможность использовать ИИ для решения задач, на которые в противном случае ушли бы годы, позволяет процветать новым видам предпринимательства и инноваций. Я уже общался с физиками и экономистами, которые могут проводить гораздо более целенаправленные исследования благодаря тому, что ИИ служит как источником вдохновения, так и способом передачи на аутсорсинг трудоемких и дорогостоящих задач по программированию и написанию грантов. Возможно, ИИ-компаньоны помогут всем нам достичь целей, которые раньше были недостижимы. И, наверное, хорошо, что это возможно, потому что при таком сценарии у всех нас, скорее всего, появится больше свободного времени.
В условиях экспоненциальных изменений ИИ, в сотни раз превосходящий GPT-4, начнет фактически заменять работу человека. И не только офисную работу, поскольку есть некоторые первые свидетельства того, что LLM могут помочь нам преодолеть барьеры, которые сделали создание рабочих роботов таким сложным. Роботы, работающие на основе ИИ, и автономные агенты ИИ, контролируемые людьми, потенциально могут резко сократить потребность в человеческом труде, одновременно расширяя экономику. Приспособление к такому сдвигу, если он произойдет, трудно себе представить. Это потребует серьезного переосмысления нашего отношения к работе и обществу. Сокращенная рабочая неделя, всеобщий базовый доход и другие изменения в политике могут стать реальностью по мере того, как потребность в человеческом труде будет со временем уменьшаться. Нам придется искать новые способы занять свободное время с пользой, ведь большая часть нашей нынешней жизни сосредоточена вокруг работы.