Когда я была маленькой девочкой, не было ничего страшнее незнакомца.
В конце 1980-х и начале 1990-х наши родители, телевизионные передачи, учителя говорили детям, что есть незнакомцы, которые хотят причинить нам вред. «Незнакомая опасность» была повсюду. Это был урок из лучших побуждений, но риск был преувеличен: большая часть жестокого обращения и эксплуатации детей совершается людьми, которых дети знают. Гораздо реже дети подвергаются насилию или эксплуатации со стороны незнакомцев.
Реже, но не невозможно. Я знаю, потому что меня сексуально эксплуатировали незнакомцы.
С пяти до 13 лет я был ребёнком-актёром. И хотя в последнее время мы слышали много ужасных историй об оскорблениях, которые происходили с детьми-актёрами за кулисами, я всегда чувствовала себя в безопасности во время съёмок. Съемочные площадки представляли собой строго регулируемые помещения, где люди хотели работать. Меня поддерживали родители, меня окружали режиссеры, актеры и преподаватели студии, которые понимали детей и заботились о них.
Единственный путь шоу-бизнеса делал подвергнуть меня опасности, выставив меня на всеобщее обозрение. Любая жестокость и эксплуатация, с которыми я сталкивался, когда был ребенком-актером, происходили от рук общественности.
«Голливуд бросает вас в бассейн, — всегда говорю я людям, — но именно публика держит вашу голову под водой».
Еще до того, как я пошел в среднюю школу, мое изображение использовалось в материалах о сексуальном насилии над детьми (CSAM). Меня разместили на фетиш-сайтах и сфотографировали в порнографии. Взрослые мужчины присылали мне жуткие письма. Я не была красивой девушкой – мой трудный возраст длился примерно с 10 до 25 лет – и я снималась почти исключительно в семейных фильмах. Но я был публичной личностью, поэтому был доступен. Вот что ищут сексуальные хищники детей: доступ. И ничто не делало меня более доступным, чем Интернет.
Не имело значения, что эти изображения «были не я» или что фетиш-сайты были «технически» законными. Это был болезненный и оскорбительный опыт; настоящий кошмар, через который, как я надеялся, не придется пройти ни одному другому ребенку. Когда я стал взрослым, я беспокоился о других детях, которые последовали за мной. Происходили ли подобные вещи со звездами Диснея, актерами «Очень странных дел», подростками, танцующими в TikTok и улыбающимися на каналах семейных видеоблогеров на YouTube? Я не был уверен, что хочу знать ответ.
Когда несколько лет назад генеративный ИИ начал набирать обороты, я опасался худшего. Я слышал истории о «дипфейках» и знал, что технология становится все более реалистичной.
Затем это произошло – или, по крайней мере, мир заметил, что это произошло. Генеративный ИИ уже использовался много раз создавать сексуализированные изображения взрослых женщин без их согласия. Это случилось с моими друзьями. Но недавно стало известно, что инструмент искусственного интеллекта X Grok использовался совершенно открыто. создать изображения раздетого несовершеннолетнего актера. Несколькими неделями ранее девочку исключили из школы за то, что она ударила одноклассника, который якобы снимал с ней дипфейк-порно. по словам адвокатов ее семьи. Ей было 13, примерно в том же возрасте, когда люди создавали мои фальшивые сексуальные изображения.
В июле 2024 г. Фонд Internet Watch Foundation обнаружил более 3500 изображений CSAM, созданных искусственным интеллектом, на форуме даркнета.. Сколько еще тысяч было сделано за полтора года с тех пор?
Генеративный ИИ заново изобрел Stranger Danger. И на этот раз страх оправдан. Теперь любому ребенку, чье лицо было опубликовано в Интернете, стало намного легче подвергнуться сексуальной эксплуатации. Миллионы детей могут быть вынуждены жить в том же кошмаре.
Чтобы остановить угрозу дипфейкового апокалипсиса, нам нужно посмотреть, как обучается ИИ.
Генеративный ИИ «обучается» посредством повторяющегося процесса «смотреть, создавать, сравнивать, обновлять, повторять», — говорит Патрик ЛаВиктуар, математик и бывший исследователь безопасности ИИ. Он создает модели на основе того, что запомнил, но не может запомнить все, поэтому ему приходится искать закономерности и основывать на них свои реакции. «Полезная связь укрепляется», — говорит ЛаВиктуар. «Тот, кто менее полезен или действительно бесполезен, подвергается обрезке».
То, что может создать генеративный ИИ, зависит от материалов, на которых ИИ обучался. А учиться в Стэнфордском университете в 2023 году показало, что один из самых популярных наборов обучающих данных уже содержит более 1000 экземпляров CSAM. Ссылки на CSAM с тех пор были удалены из набора данныхно исследователи подчеркнули, что еще одной угрозой является CSAM, создаваемый путем объединения изображений детей с порнографическими изображениями, что возможно, если оба они присутствуют в обучающих данных.
Google и ОпенАИ утверждают, что у них есть меры защиты от создания CSAM: например, заботясь о данных, которые они используют для обучения своих платформ искусственного интеллекта. (Стоит также отметить, что изображения многих актеров фильмов для взрослых и секс-работников были обработаны для ИИ. без их согласия.)
Сам по себе генеративный ИИ, говорит ЛаВиктуар, не имеет возможности отличить безобидные и глупые команды, такие как «создать изображение самурая-джедая», и вредные команды, такие как «раздеть эту знаменитость». Таким образом, еще одна защита включает в себя другой тип искусственного интеллекта, который действует аналогично спам-фильтру и может блокировать ответы на эти запросы. Компания xAI, которая управляет Grok, похоже, неосторожно отнеслась к этому фильтру.
И самое худшее, возможно, еще впереди: Мета и другие компании предложили, чтобы будущие модели ИИ были с открытым исходным кодом. «Открытый исходный код» означает, что каждый может получить доступ к его коду, загрузить его и редактировать по своему усмотрению. То, что обычно замечательно в программном обеспечении с открытым исходным кодом – свобода, которую оно дает пользователям создавать новые вещи, отдавая приоритет творчеству и сотрудничеству над прибылью – может обернуться катастрофой для безопасности детей.
Как только кто-то загрузит платформу искусственного интеллекта с открытым исходным кодом и сделает ее своей собственной, не будет никаких гарантий, ни один бот-ИИ не скажет, что он не может помочь с его запросом. Любой мог «настроить» свой собственный генератор изображений, используя откровенные или нелегальные изображения, и создать свой собственный бесконечный генератор CSAM и «порномести».
Мета, кажется, есть отказалась от открытия исходного кода своих новых платформ искусственного интеллекта. Возможно, Марк Цукерберг это вспомнил. он хочет быть похожим на римского императора Августаи что, если он продолжит идти по этому пути, его будут помнить больше как Оппенгеймера из CSAM.
Некоторые страны уже борются с этим. Китай был первым, кто принял закон, который требует, чтобы контент ИИ был помечен как таковой. Дания работает над законодательством, которое предоставит гражданам авторские права на их внешний вид и голос и будет налагать штрафы на платформы искусственного интеллекта, которые это не соблюдают. В других частях Европы и в Великобританииизображения людей могут быть защищены Общим регламентом защиты данных (GDPR).
Перспективы в Соединенных Штатах кажутся гораздо более мрачными. Заявления об авторских правах не помогут, потому что, когда пользователь загружает изображение на платформу, он может использовать его по своему усмотрению; это есть почти в каждом соглашении об Условиях обслуживания. С указы против регулирования генеративного ИИ и такие компании, как xAI подписание контрактов с военными СШАПравительство США показало, что зарабатывать деньги с помощью ИИ гораздо важнее, чем обеспечивать безопасность граждан.
Там имеет Был недавний закон, «который делает многие из этих цифровых манипуляций преступными», — говорит Акива Коэн, судебный адвокат из Нью-Йорка. «Но кроме того, многие из этих законов, вероятно, слишком ограничительны в что именно они покрывают».
Например, создание дипфейка кого-то, на котором он выглядит обнаженным или вовлеченным в сексуальный акт, может стать основанием для уголовного обвинения, но использование ИИ для того, чтобы надеть женщину (и, скорее всего, даже несовершеннолетнюю девочку) в бикини, вероятно, не будет.
«Многие из этих действий сознательно остаются на «ужасной, но законной» стороне линии», — говорит Коэн.
Возможно, это не преступление, то есть преступление против государства, но Коэн утверждает, что это может быть гражданская ответственность, нарушение прав другого человека, за которое жертва требует возмещения ущерба. Он предполагает, что это подпадает под «ложный свет«вторжение в частную жизнь» — гражданское правонарушение, при котором в отношении человека выдвигаются оскорбительные заявления, изображающие его в ложном свете, «изображающие кого-либо таким образом, чтобы показать, что он делает то, чего он не делал».
«Способ, которым вы действительно можете предотвратить такого рода поведение, — это наложить ответственность на компании которые позволяют это сделать», — говорит Коэн.
Для этого есть юридический прецедент: Закон о повышении в Нью-Йорке и Сенатский законопроект 53 в Калифорнии говорят, что компании, занимающиеся искусственным интеллектом, могут быть привлечены к ответственности за ущерб, который они причинили после определенного момента. Х, тем временем, теперь заблокирую Грока от создания сексуализированных изображений реальных людей на платформе. Но это похоже, что политика изменится не относится к автономному приложению Grok.
Но Джош Савиано, бывший практикующий адвокат из Нью-Йорка, а также бывший ребенок-актер, считает, что в дополнение к законодательству необходимо принять более срочные меры.
«Лоббистские усилия и наши суды в конечном итоге станут способом решения этой проблемы», — говорит Савиано. «Но пока этого не произошло, есть два варианта: полностью воздерживаться, что означает убрать весь свой цифровой след из Интернета… или вам нужно найти технологическое решение».
Обеспечение безопасности молодых людей имеет первостепенное значение для Савиано, который знал людей, у которых были их дипфейки. и – как бывший ребенок-актер – немного знает о потере контроля. собственного повествования. Савиано и его команда работают над инструментом, который мог бы обнаруживать и уведомлять людей, когда их изображения или творческие работы считываются. По его словам, девиз команды: «Защитите детей».
Независимо от того, как это может произойти, я считаю, что защита от этой угрозы потребует от общества больших усилий.
Многие начинают чувствовать близость к своим чат-ботам с искусственным интеллектом, но для большинства людей технологические компании — это не что иное, как коммунальные услуги. Мы можем предпочитать одно приложение другому по личным или политическим причинам, но немногие чувствуют сильную лояльность к технологическим брендам. Технологические компании и особенно платформы социальных сетей, такие как Meta и Хследует помнить, что они являются средством для достижения цели. И если кто-то вроде меня, который был в Твиттере весь день, каждый день, более десяти лет, может бросить это, то это может сделать любой.
Но бойкотов недостаточно. Мы должны быть теми, кто требует от компаний, которые допускают создание CSAM, привлечения к ответственности. Мы должны требовать законодательных и технологических гарантий. Нам также необходимо проанализировать свои собственные действия: никто не хочет думать, что, если они поделятся фотографиями своего ребенка, эти изображения могут оказаться в CSAM. Но это риск, от которого родителям необходимо защитить своих маленьких детей и предупредить о них старших детей.
Если наша одержимость «Очень опасным» что-то и показала, так это то, что большинство из нас хотят предотвратить угрозу и преследование детей. Пришло время доказать это.
Продолжение темы
