В среду Министерство юстиции объявил об аресте Джонатана Риндеркнехта, которому было предъявлено федеральное обвинение в поджоге, который в конечном итоге перерос в масштабный и смертоносный пожар в Палисаде, который опустошил прибрежные поселения округа Лос-Анджелес в течение января.
Власти упомянули различные доказательства, которые, по их словам, поддерживали дело против Риндеркнехта, но они выделил особенно новый: записи его разговоров с ЧатGPT. 29-летний мужчина из Флориды якобы подтолкнул ОпенАИчат-бот для создания изображений охваченных пламенем городов и лесов, рассказал ему о чувстве «освобождения» после сожжения Библии и вскоре после того, как зажег кустарник сразу после полуночи в первый день Нового года, спросил его: «Вы виноваты, если пожар поднимется?» [sic] из-за твоих сигарет?
Риндеркнехт еще не подал заявление о признании вины, но если он предстанет перед судом, это дело может дать ценную информацию о том, как распространение технологий искусственного интеллекта повлияет на уголовные расследования и судебные преследования в будущем. Пользователи доказали слишком доверчивый чат-ботов, рассматривая их как терапевтов, доверенных лиц и даже романтических партнеров, которым они могут рассказать свои интимные секреты. Реальность такова, что они разглашают конфиденциальную информацию на платформах, не обеспечивающих никакой юридической конфиденциальности, разработанных компаниями, которые с готовностью передадут свои данные правоохранительным органам, если им будет вручена повестка в суд, ордер или постановление суда.
Новый рубеж
Все это делает записи чат-ботов потенциальной находкой для правоохранительных органов, говорят технические и юридические эксперты. Роллинг СтоунВозможно, более ценным, чем текстовые сообщения и следы в социальных сетях, которые в настоящее время служат важными направлениями внимания, когда власти тщательно проверяют людей, связанных с преступление. Переписка с генеративным ИИ вскоре также станет регулярной частью уголовных расследований и судебных процессов.
«Нет никаких сомнений в том, что журналы чат-ботов с искусственным интеллектом займут центральное место в спорах о доказательствах по всей стране», — говорит Кайл А. Валенте, адвокат юридической фирмы Bressler Amery & Ross PC, опубликовавший бумага по теме в прошлом месяце. «Гражданские специалисты захотят получить историю переписки, чтобы продемонстрировать намерения или мотивы в делах, касающихся мошенничества, искажения фактов, нарушения контракта и тому подобного», — говорит он, в то время как прокуроры стремятся представить эти файлы, чтобы установить такие элементы дела, как мужские плохиеили осведомленность подозреваемого о правонарушении.
Хотя ряд гражданские иски, связанные с причинением вреда пользователю в настоящее время рассматриваются дела против фирм, занимающихся искусственным интеллектом, прокуроры по уголовным делам едва ли начали изучать, как они могут использовать использование обвиняемыми чат-ботов для вынесения обвинительных приговоров. Валенте приводит один замечательный ранний прецедент: мужчина из Роанока, штат Вирджиния, был приговорен в сентябре к тюремному заключению. 25 лет тюрьмы за убийство первой степени после того, как прокуратура заявила, что его сообщения с SnapchatБот My AI продемонстрировал преднамеренность в убийстве в 2023 году. Прежде чем застрелить другого человека в мелком споре, ныне осужденный обвиняемый, которому на тот момент было 18 лет, сказал боту, что собирается «драться», и спросил его: «Что, если я застрелю их, если они наступят на мою собственность с враждебными намерениями?» (Чат-бот ответил, что он не может «одобрять или поощрять любое агрессивное или незаконное поведение».)
«Это как твой дневник, раз 10»
«Остатки ДНК, отпечатки пальцев — все, что вы видите во всех этих преступлениях, меркнет по сравнению с личными данными, которые есть у вас на телефоне», — говорит Роб Т. Ли, эксперт по цифровой криминалистике и искусственному интеллекту в SANS Institute, кооперативе по обучению кибербезопасности. “То, что происходит сейчас с ИИ, вы ведете полноценный разговор с этими чат-ботами. Это уже не просто поиск темы”. Хотя в прошлом подозреваемые в уголовных преступлениях могли быть обвинены Google Вопрос, скажем, о том, как очистить пятна крови, более полный и подробный обмен информацией с помощью такого инструмента, как ChatGPT, дает следователям гораздо больше возможностей доказать намерения и образ мышления, объясняет Ли. «Все это протоколируется и хранится на серверах», — говорит он. «Это как твой дневник, умноженный на 10».
«Мы видели это на примере социальных сетей, где правоохранительные органы внезапно начали понимать, что много важных и важных доказательств можно получить из сообщений и профилей в социальных сетях», — говорит Митали Джайн, юрист по технологиям и правам человека, которая является директором Проект закона о технологическом правосудии и представляет интересы нескольких родителей в судебных процессах, утверждающих, что продукты искусственного интеллекта подтолкнули их детей к самоубийству. “Это стало стандартной частью уголовного расследования. Я думаю, что мы начнем видеть это и в этом контексте”.
Разница, по ее словам, заключается в том, что следующая разработка касается «машинных результатов», и не существует установленных правил относительно того, как такого рода материалы могут или должны быть допущены в качестве вещественных доказательств в суде. «Это очень актуальная проблема», — говорит Джайн. Валенте соглашается: «На данном этапе границы безграничны до тех пор, пока суды не вынесут заключения, которые установят некоторую основу для работы с такого рода доказательствами», — говорит он.
Фундаментальное отличие
Винсент Конитцер, директор Лаборатории основ совместного искусственного интеллекта в Университете Карнеги-Меллон и руководитель отдела технического взаимодействия с искусственным интеллектом в Институте этики в области искусственного интеллекта Оксфордского университета, также говорит, что обмен чат-ботами фундаментально отличается от текстовых сообщений с другим человеком, от которого мы ожидали бы принятия мер по предотвращению преступления, если бы ему сообщили об этом заранее. «Будут ли у нас такие же ожидания от чат-бота?» — спрашивает Конитцер. «Компании уже пытаются установить ограждения, чтобы их чат-боты не помогали кому-либо совершить преступление, хотя эти ограждения все еще очень хрупкие».
Действительно, новости NBC отчет на этой неделе выяснилось, что ChatGPT можно манипулировать, чтобы он давал указания по сборке химического и биологического оружия. И Мэтью Ливельсбергер, ветеран, который в Новый год смертельно застрелился в Тесла Кибертрак припарковался перед отелем Трампа в Лас-Вегасе прямо перед тем, как зажигательное устройство взорвало автомобиль, использовал генеративный ИИ чтобы помочь спланировать его атаку.
Ли отмечает, что несколько компаний, занимающихся искусственным интеллектом, уже заявили о своей способности отмечать действия пользователей, которые могут предвещать преступление. «Они становятся намного лучше в обнаружении иностранных противников, использующих эти системы в злонамеренных целях, и я могу только представить, что они делают то же самое для людей. [in the U.S.] это может быть попытка убийства или совершения террористических актов», — говорит он.
Человеческий обзор
Опенай имеет сказал в нем работает группа проверки людей, уполномоченная выборочно информировать правоохранительные органы, когда они сталкиваются с контентом, который «создает непосредственную угрозу серьезного физического вреда другим людям». Неясно, как часто они достигают такого уровня тревоги. «Они не публикуют пресс-релизы по этому вопросу», — говорит Ли, предполагая, что они предпочитают акцентировать внимание на усилиях по подрыву связанные с государством субъекты угроз в России, Иране и Китае, «за что гораздо легче получить похлопывание по спине».
По словам Ли, основные американские игроки в области ИИ гораздо более молчаливы в отношении своей способности обнаружить возможного школьного стрелка, например. И, как отмечает Джайн, если они замечают эти предупреждающие знаки, сообщать о них не обязательно.
“Я думаю [the companies] собираются сказать: «Послушайте, мы не можем нести ответственность за то, какие запросы пользователи задают нам через нашего чат-бота, мы не можем знать, что он собирался делать», — предсказывает Джайн. Она поражена тем фактом, что, когда Министерство юстиции выдвинуло свои утверждения о том, как Риндеркнехт использовал ChatGPT до и во время пожара в Палисадесах, они не упомянули OpenAI или то, могла ли программа создать впечатление, что она поощряет «причинение вреда другим».
Известно, что чат-боты проверяют данные пользователей. навязчивые идеи и заблужденияи большая часть судебных разбирательств вокруг этого явления до сих пор касалась членовредительства, как, например, в исках, которые Джейн подал против OpenAI и Character Technologies. Вопрос о роли, которую чат-бот может сыграть в эпизоде внешнего насилия или деструктивного поведения, еще более неясен.
«В центре внимания будет дальнейшее обоснование вины человека за счет реального изучения того, как компании разработали своих чат-ботов», — говорит Джайн, сравнивая проблему с провокацией — сценарием, в котором правоохранительные органы побуждают кого-то совершить преступление. Она предполагает, что прокуроры найдут «момент ошибки» в журналах чат-бота обвиняемого, «не понимая, как машина добралась до такого результата».
«Мне кажется, что это будет очень односторонняя история», — добавляет Джайн. «Я не могу себе представить, что компания будет отстаивать права пользователей».
Тем не менее, похоже, что крупные игроки в области ИИ мало что могут сделать, чтобы избежать вовлечения в уголовные дела в предстоящие месяцы и годы. Валенте, например, ожидает, что их юридический отдел и отдел соблюдения требований примут «активный» подход к проблеме. Что это повлечет за собой? «Пересмотр политики конфиденциальности и обновление условий», — говорит он. Как всегда, дьявол скрывается мелким шрифтом.
2025-10-11 14:54:00
1760194520
#Истории #чатботов #становятся #доказательствами #уголовных #делах
По теме
