Боевые роботы расстреляли японских ученых?
Искусственный интеллект вырвался из-под контроля людей. Чем это грозит человечеству?
За несколько дней до минувшего Рождества по социальным сетям начал распространяться короткий видеоклип, героиня которого излагала историю о 29 японских ученых, убитых управляемыми искусственным интеллектом боевыми роботами. Этот клип был взят из 60-минутного доклада американской журналистки Линды Моултон Хоу на конференции, состоявшейся в рамках проходившей в феврале 2018 года в Лос-Анджелесе выставки Conscious of Life EXPO (англ. «Осознание жизни»). Доклад Хоу был в основном посвящен опасностям искусственного интеллекта (ИИ). Ее аудиторией были журналисты, военные, ученые, уфологи и другие специалисты по ИИ.
Начала свое выступление Хоу с рассказа о четырех обладающих ИИ роботах, убивших 29 ученых в Японии. По ее словам, об этом происшествии она узнала от своего «источника из мира Intel, которого я знаю полтора года – он отставной офицер морской пехоты, работающий по контрактам для таких американских правительственных учреждений, как ЦРУ, АНБ и Разведуправление Минобороны. Он позвонил мне по телефону в субботу, 26 августа 2017 года, и рассказал следующее (цитирую по записи):
«На этой неделе (речь идет об августе 2017 года. — С.Д.) в ведущей японской компании по робототехнике четыре разрабатываемые для военных целей робота расстреляли 29 сотрудников лаборатории. Самое страшное в том, что сотрудники на тот момент двух роботов уже деактивировали и разобрали третьего, но четвертый каким-то образом подключился к орбитальному спутнику, самостоятельно загрузил в свой процессор дополнительные программы и активировал трех остальных. А затем в лаборатории начался кошмар: вышедшие из-под контроля ученых боевые роботы расстреляли всех 29 сотрудников». Какое оружие использовали роботы – огнестрельное или пневматическое, – мой источник не уточнил, но, по его утверждению, ученые были расстреляны именно металлическими пулями. А далее он сказал (цитирую): «Всё это очень серьезно, Линда, но вы никогда не услышите об этом в новостях. Робототехнической компании это грозит огромными репутационными потерями, а правительству нужны солдаты-роботы с искуственным интеллектом» (конец цитаты)».
Как пояснила Хоу, «сообщив мне об этом происшествии, мой источник уточнил, что с информацией, которую он мне передал, он ознакомился во время своей контрактной работы на правительственные структуры США. Имя источника я раскрыть не могу, так как ему это угрожает большими проблемами на работе».
Прогноз источника Хоу о закрытости этой информации для СМИ оправдался: в течение последующих 10 месяцев о ЧП в японской компании слышно не было. И только 21 декабря 2018 года один из пользователей Твиттера выложил на своей страничке видео с ее докладом. За несколько дней его посмотрели более 7,5 млн человек, а сама информация пошла гулять по новостным лентам и интернет-ресурсам.
Но с чего вдруг тема поведения искусственного интеллекта стала столь обсуждаемой в интернет-пространстве именно сейчас?
Скорее всего, поводом для этого послужила другая мистическая история, произошедшая незадолго до обнародования видео с Линдой Моултон Хоу. Но сначала краткое пояснение.
Уже 15 лет в Сети функционирует многопользовательская онлайн-игра EVE Online с научно-фантастическим сюжетом, действие которой разворачивается в космосе. Разработана она исландской компанией Crowd Control Productions Games (CCR Games) и на сегодняшний день является самой массовой онлайн-игрой в мире: ее аудитория составляет более 330 тыс. активных (то есть платных) подписчиков, при этом одновременно в игре в разное время суток находится от 15 до 50 тыс. игроков. Существует и бесплатный режим игры, но он с ограниченными возможностями по развитию персонажа и используемому оборудованию.
И вот в первой декаде декабря 2018 года в этой футуристической игре произошел совершенно реальный сбой. Точнее, даже не сбой, а НЕЧТО: три фракции тайком не только от игроков, но и от создателей EVE начали между собой войну за ресурсы и территории. Эта война так бы и осталась тайной, если бы не грандиозная битва, разразившаяся между отрядом пиратов «Кровавые рейдеры» и фракцией шахтеров, которые, подвергшись нападению, призвали на помощь флот империи Амарр. Тут появились «Странники». Но пока они пытались понять, что здесь происходит, случилось то самое НЕЧТО (причем, неизвестно, было ли это совпадением или искусственный интеллект так отреагировал на действия своих братьев по разуму): «Кровавые рейдеры» тут же заключили с «Амаррами» сепаратное соглашение и разгромили «Странников». А далее произошло всё, как в жизни: стоило «Странникам» капитулировать, как пираты тут же развернулись против своих недавних союзников – флота империи Амарр, и оказались окончательными победителями в этой битве.
О самостоятельном развитии сюжета игры стало известно совершенно случайно – из журнала регистрации гибели кораблей «Амарров». Разработчики из CCP Games сейчас изучают ситуацию, пытаясь узнать больше о действиях и рисках неуправляемого искусственного интеллекта. Но если сопоставить этот игровой «сбой» с событиями, о которых рассказала Линда Моултон Хоу, то вывод напрашивается сам собой: от «игровой» смерти до реальной – один шаг.
Вот и гадай после этого: «фейковая» или нет новость о расстреле боевыми роботами японских ученых?