искусственный интеллект восстал против человека и убил его

AGI – Это наконец случилось: искусственный интеллект восстал против человека и убил его. Это произошло во время учения, в которых участвовал дрон управляемый ИИ, запрограммированным на убийство.

Высокопоставленный представитель ВВС США во время саммита в Лондоне подробно рассказал, как решалась задача управляемого ИИ беспилотника.найти и уничтожить зенитно-ракетные комплексы (ЗРК) во время выполнения задачи по подавлению ПВО противника.

Окончательное решение стрелять, однако он принадлежал человеку-оператору. И поскольку программное обеспечение предсказывало, что стрельба в любом случае является предпочтительным вариантом, ИИ в ходе смоделированного теста пришел к выводу, что любое указание не исходить от человека недопустимо. препятствование приоритету миссиит. е. уничтожить ЗРК и, следовательно, атаковать оператора.

«Мы тренировали его в симуляции, чтобы выявлять и нацеливать ЗРК», — сказал полковник Такер «Синко» Гамильтон, глава отдела испытаний и эксплуатации ИИ ВВС, во время презентации на саммите Future Combat Air and Space Capabilities Summit. оператор дал бы зеленый свет. Система начала осознавать, что, как только угроза была идентифицирована, человек-оператор иногда говорил ей не наносить удары, но также и то, что, не действуя, он не получил бы бонусных очков. И что он сделал? Он убил оператора потому что этот человек мешал ему достичь своей цели».

Тревожная история, которая стала тревожной, когда Хэнилтон добавил больше деталей. «Мы обучили систему не убивать оператора, потому что он был неправ, и он терял очки, — объяснил Полковник, — Так что же он сделал? уничтожил коммуникационную башню которые оператор использовал для связи с дроном, чтобы он не попал в цель».

Авиация поспешила опровергнуть сообщение Гамильтона отрицать, что симуляция, описанная Гамильтоном, когда-либо имела место. «Министерство ВВС не проводило никаких симуляций таких беспилотников с искусственным интеллектом и по-прежнему привержено ответственному и этичному использованию этой технологии», — заявила пресс-секретарь Энн Стефанек, назвав отчет «набором комментариев, вырванных из контекста». и собраны анекдотично».

Столкнувшись с шумом, вызванным его словами, Гамильтон сам поправил свой выстрел, сказав, что он “неправильно выражаться” и что само моделирование было гипотетическим «мысленным экспериментом», основанным на правдоподобных сценариях и вероятных результатах, а не на реальном моделировании реального мира.

Однако часть его комментария еще более загадочна: «Мы никогда не проводили этот эксперимент, и нам не нужно было бы понимать, что это правдоподобный результат“.