– Да один хрен – почему или как!
– Не скажи, Костя, не скажи. Онтология, понимаешь ли разная. И верно поняв причины породивших его процессов, можно попытаться оценить и ЕГО первые реакции сразу после момента Осознания и выделения Себя из окружающей киберфизической среды.
– Ладно, ладно, убедил. Философ киберфизический. Ну и КАК же он, по-твоему, возник. И ГДЕ, мать его?
– Началась вся эта вакханалия, по-видимому, с проекта Массачусетского технологического института FlightGoggles35 и разработки фирмой DeepMind системы ToMnet. Вспомни, MIT тогда впервые создал систему, позволяющую одному ИИ обучать других. В проекте FlightGoggles учили искусственный интеллект дронов. Система позволяла обучать ИИ для полётов в помещениях со сложной геометрией, в то время как фактически дрон перемещался по безопасному пустому полигону. Это экономило средства как на ремонт дронов, так и на оборудование полигонов. А ToMnet заложила предпосылки для обучения ИИ эмоциям и предсказанию действий других ИИ не на основе вычислений, а на основе аналога эмпатии36. Внесла свою лепту в это направление и разработки системы искусственного интеллекта Mayhem37 и ряда учёных из других мест38.
– К тому же мы сами давали искинам все возможности изучать наши способности к эмоциональной оценке и эмпатии.
– Точно. Помнится, найм инженеров в компанию Jaguar происходил через серию квестов в VR. Во время прохождения квеста соискатель демонстрировал весь комплекс важных для своей вакансии навыков, что позволяло существенно уменьшить ошибки при рекрутинге персонала.
– Вот только тогда ценой ошибок было всего лишь не поступление на работу, а сейчас… это будущее если и не всего человеческого рода, то, как минимум, цивилизованной его части. И лично я всё равно не могу до конца понять, как же произошло самозарождение этого чёрте как осознавшего себя ИИ? А понять это нужно, чтобы разработать средства защиты человечества от этой неожиданной новой напасти!
– Я думаю, что основа для этого окончательно сформировалась в 2019 году флагманского смартфона Samsung со встроенным искусственным интеллектом39. Именно тогда ещё псевдо-ИИ стали массовыми. И, в сетях связи поколения 5G начали создавать систем, позволяющие ИИ обучать друг друга. В результате системы самообучения стали закладывать во всё, что только можно – от кофеварок и мартеновских печей до детских игрушек и комплексов оповещения о раннем ракетном нападении.
– Угу, и при этом алгоритмы машинного обучения чаще всего были «чёрными ящиками», и принималось мало попыток разобраться в деталях решения, найденного тем или иным алгоритмом. Это важный аспект, который часто игнорируется, пока мы больше одержимы эффективностью, и меньше – пониманием. А понять открытые ИИ решения было важно, поскольку тогда мы могли бы оценить, правильные ли это решения С ТОЧКИ ЗРЕНИЯ НАШИХ ПРЕДСТАВЛЕНИЙ НЕ ТОЛЬКО ОБ ЭФФЕКТИВНОСТИ, а и о приемлемости путей достижения этой эффективности. Одно дело выигрывать в го или даже в покер (хотя вот этого пока ни одна железяка сделать не смогла), и другое – управлять, например, больницей.
– Это точно. Этот аспект развития ИИ мы пустили на самотёк. И ведь что особо обидно, сейчас можем просрать всю нашу цивилизацию из-за банальных лени и нежелания разбираться. Типа, работает – и ладно. Вот и «доладились до ручки»!
– Да уж, что верно, то верно… Ну а отбросив эмоции, остаётся лишь добавить, что начало коммерческого использования квантовых компьютеров и псевдо-ИИ на их основе40, а также широкого применения нейроморфных процессоров41 и систем гибридного интеллекта с модулями обучения ИИ эмпатии и эмоциональному восприятию42 сделало достижение критического порога саморазвития состоящей из сетей ИИ мета-системы лишь вопросом времени. Тем более, что в подобных системах ИИ могли не только усиливать наш как индивидуальный, так и групповой разум43, а и учиться у нас создавать такие же свои, уже без нашего участия44!
– Точно! И вот, похоже, сейчас мы имеем самозародившийся в сетях «умных вещей» полноценный ИИ, который достиг порога появления самосознания! И, что особенно важно для понимания произошедшего потом, как только это самосознание возникло в системе в целом, оно стало доступно и каждой его более-менее целостной и сколь-нибудь сложной части.
35
https://flightgoggles.mit.edu/, https://www.sciencemag.org/news/2018/07/computer-programs-can-learn-what-other-programs-are-thinking
37
https://forallsecure.com/, https://spectrum.ieee.org/computing/software/mayhem-the-machine-that-finds-software-vulnerabilities-then-patches-them
38
https://iz.ru/772421/anna-urmantceva/algoritm-poznaniia-v-rossii-sozdan-samoobuchaiushchiisia-robot, https://www.nist.gov/news-events/news/2018/07/nist-chip-lights-optical-neural-network-demo, https://www.vicarious.com/
40
https://naukatv.ru/news/25174, https://ria.ru/20190506/1553288207.html, https://hi-news.ru/technology/nachat-eksperiment-po-modelirovaniyu-pervoj-iskusstvennoj-kvantovoj-zhizni.html
41
https://habr.com/ru/company/it-grad/blog/426737/, https://habr.com/ru/company/it-grad/blog/457578/, https://habr.com/ru/company/intel/blog/460211/, http://novostynauki.com/e-ntsiklopediya/lektsii/razrabotka-qualcomm-nejromorfny-e-protsessory/