Защитники безопасности детей в Интернете призывают Калифорнию усилить защиту

САКРАМЕНТО — Джулианна Арнольд не встревожилась, когда ее дочь-подросток впервые зарегистрировалась в Instagram.

Многие люди ее возраста использовали его. А у ее дочери Коко была светская жизнь и другие хобби, такие как легкая атлетика и гимнастика, чтобы сбалансировать свое время в Интернете.

«Это были музыкальные и танцевальные видео, и это казалось невинным», — сказала Арнольд, проживающая в Лос-Анджелесе, объяснив, что она будет просматривать контент, который смотрит Коко.

Но Арнольд сказала, что мужчина использовал Instagram, чтобы нацелиться на ее дочь, когда они жили в Нью-Йорке в 2022 году, отправляя личные сообщения и действуя как «старший брат», чтобы заслужить ее доверие. Через две недели после своего 17-летия Коко встретила его возле своего дома — и умер после приема таблетки с фентанилом поддельный Percocet, который он предоставил.

Подобные истории есть разыгрывается по всей стране пока родители пытаются решить, как защитить своих детей от множества угроз в Интернете.

Поскольку в штате расположены многие технологические гиганты, губернатор Гэвин Ньюсом заявил, что Калифорния готовит почву для законодательных ограничений на социальные сети и искусственный интеллект. Но хотя защитники безопасности детей согласны с тем, что в столице штата в этом году был достигнут прогресс, они утверждают, что предстоит пройти еще долгий путь, и планируют бороться за усиление защиты, когда законодатели соберутся снова в январе.

«Я бы сказал, что Калифорния определенно лидирует в этом», — сказал Джай Джайсимха, соучредитель Коалиции прозрачности, некоммерческой организации, исследующей риски и возможности, связанные с ИИ. «[But] Мне бы хотелось увидеть готовность стать немного сильнее с точки зрения понимания последствий и более быстрого принятия мер. Мы не можем позволить себе ждать три или четыре года — вред происходит уже сейчас».

Опрос, проведенный в прошлом году Pew Research Center нашел почти половина подростков США в возрасте от 13 до 17 лет говорят, что они «почти постоянно» онлайн. Девять из 10 подростков заявили, что используют YouTube, а примерно 6 из 10 заявили, что используют TikTok и Instagram. Пятьдесят пять процентов сообщили об использовании Snapchat.

Во время недавней законодательной сессии Ньюсом подписал пакет законов, призванных сделать Интернет более безопасным, особенно для несовершеннолетних.

Один новый закон требует от поставщиков операционных систем спрашивать у владельцев учетных записей возраст пользователя при настройке такого оборудования, как ноутбуки или смартфоны. Затем поставщики системы отправляют приложениям сигнал о возрастном диапазоне пользователя, чтобы контент можно было настроить в соответствии с возрастом. Еще одна мера требуются определенные платформы размещать предупреждающие надписи о вредном влиянии социальных сетей на психическое здоровье детей.

Третий новый закон требуются сопутствующие чат-боты периодически напоминать пользователям, что они не взаимодействуют с человеком, и внедрять процессы предотвращения самоубийств, чтобы помочь тем, кто проявляет признаки бедствия. Чат-компаньон — это компьютерная программа, которая имитирует человеческие разговоры, чтобы предоставить пользователям развлечение или эмоциональную поддержку.

Ньюсом, однако, наложил вето на, возможно, самый агрессивный законопроект, заявив, что он слишком широк и может вообще лишить детей доступа к ИИ.

Законопроект Ассамблеи 1064 запретил бы предоставлять чат-ботам-компаньонам доступ к несовершеннолетним, если бы чат-боты были «предсказуемо» способны пропагандировать определенные виды поведения, такие как членовредительство, расстройство пищевого поведения или насильственные действия. Это также потребовало бы проведения независимых проверок безопасности программ искусственного интеллекта для детей.

«Это тот момент, к которому мы собираемся вернуться в следующем году», — сказал Саша Хаворт, исполнительный директор Tech Oversight Project. «Мы ведем переговоры с офисами членов и офисом губернатора о том, чтобы передать этот закон в место, где он сможет его подписать».

Другая организация использует другой подход.

Исполнительный директор Common Sense Media Джим Стейер начал кампанию в поддержку штата избирательная инициативаполучивший название Калифорнийский закон о безопасности детей в области искусственного интеллекта, чтобы донести этот вопрос непосредственно до избирателей. Среди прочего, он будет строго ограничивать доступ молодежи к сопутствующим чат-ботам и требовать проверки безопасности любого продукта Al, предназначенного для детей и подростков. Он также запретит компаниям продавать личные данные пользователей младше 18 лет без согласия.

Стейер добавил, что AB 1064 пользуется широкой поддержкой и, вероятно, был бы подписан, если бы не агрессивное лоббирование со стороны технологической отрасли и угрозы покинуть штат.

«В мире политики иногда приходится пытаться еще и еще раз», — сказал Стейер. «[But] у нас есть импульс, у нас есть факты, у нас есть общественность и, самое главное, у нас есть моральное превосходство, поэтому мы собираемся победить».

Эд Ховард, старший юрисконсульт и политический защитник Института защиты прав детей при Университете Сан-Диего, сказал, что одна из его целей на следующий год — придать больше силы двум действующим законам.

Первый требует, чтобы платформы социальных сетей предоставили несовершеннолетним механизм, позволяющий сообщать и удалять изображения, на которых они подвергаются сексуальному насилию. Второй требует от платформ создания аналогичного механизма отчетности для жертв киберзапугивания.

Ховард сказал, что основные платформы, такие как TikTok, Facebook и Instagram, либо не выполнили требования, либо сделали процесс сообщения «невероятно трудным».

«Существование подобных изображений не дает покоя людям, пережившим эти преступления», — сказал он. «В этом году будет законопроект об очистке языка в [those laws] чтобы убедиться, что им это не сойдет с рук».

Ховард считает, что законодатели с обеих сторон привержены поиску решений.

«Я никогда раньше не видел такой двухпартийной ярости, направленной против этих двух партий. [tech] компаний», — сказал он.

Лишон Фрэнсис, старший директор по поведенческому здоровью Children Now, сказал, что организация все еще изучает потенциальные законодательные приоритеты на 2026 год.

Она объяснила, что они часто применяют взвешенный подход, потому что более строгое законодательство, как правило, связано с судебными исками со стороны технологической отрасли. Мета, Google и TikTok, например, оспаривание закона Калифорнии принятый в прошлом году закон ограничивает доступ детей к персонализированным лентам социальных сетей.

«Мы все еще пытаемся провести с нашей молодежью еще немного исследований о том, как они хотят взаимодействовать с ИИ и как, по их мнению, это должно выглядеть», — сказал Фрэнсис. «Мы считаем, что это важная недостающая часть разговора; в комнате собралась группа взрослых старше 40 лет, которые говорят о технологиях и совершенно игнорируют то, как молодые люди хотят их использовать».

Дэвид Эван Харрис, старший политический советник Калифорнийской инициативы по технологиям и демократии, сказал, что следит за Вашингтоном, готовясь к сессии штата.

«В Конгрессе и в Белом доме есть люди, которые пытаются сделать невозможным для штатов регулирование ИИ», — сказал он. «Они хотят отобрать эту власть у штатов и не заменить ее каким-либо федеральным регулированием, а заменить ее ничем».

Белый дом отложил проект указа, который предопределит законы штата об искусственном интеллекте посредством судебных исков и удержания федеральных средств. Об этом сообщило агентство Reuters в субботу..

Когда в следующем году адвокаты выступят в здании штата, Арнольд будет среди них. С тех пор как ее дочь умерла три года назад, она стала соучредителем организации «Родители Rise» — общественной правозащитной группы — и работает над повышением осведомленности о рисках, с которыми молодежь сталкивается в Интернете.

Арнольд сказал, что еще до того, как Коко стала жертвой хищника, технологии уже сказались на их жизнях. Ее некогда веселая дочь пристрастилась к социальным сетям и отказалась от занятий, которые раньше любила. Арнольд отвел Коко на терапию и ограничил ее время в Интернете, но это привело к бесконечным ссорам и создало разрыв между ними.

«Вы думаете, что ваш ребенок в безопасности в своей спальне, но эти платформы предоставляют портал в ваш дом для хищников и вредоносного контента», — сказал Арнольд. «Они как будто просто проходят через парадную дверь».