Нет, если это моя дочь: пользователь «дипфейкового» порно видит это без колебаний, но он бы сообщил об этом, если бы жертва была из его окружения | Технологии

Она еще не была премьер-министром Италии, но уже была популярна, когда Фейковое порнографическое видео с лицом Джорджии Мелони на теле другой женщины. 2 июля ее вызовут для дачи показаний по иску против фигурантов, 40-летнего мужчины, создавшего изображения, и его 73-летнего отца, предоставившего возможность опубликовать их. По словам адвоката Марии Джулии Маронгиу, он требует от них 100 000 евро в качестве «образцовой символической меры», которая «способствует защите женщин, ставших жертвами этого вида преступлений». дипфейки, гиперреалистичных поддельных аудиовизуальных материалов, удваивается каждый год с тех пор, как в 2017 году была зарегистрирована первая жалоба на наготу без согласия, и с тех пор мало что изменилось. Расследование Герои домашней безопасности (МСМ) подтверждает уже выявленную панораму: 98% — это порнография, 99 из каждых 100 жертв — женщины, и почти все они популярны.

Наиболее радикальные изменения были технологическими. Если сначала требовались знания компьютеров и редактирования изображений, то теперь каждый третий доступный инструмент позволяет создавать фальшивые творения менее чем за 25 минут и с нулевыми затратами. Google, который служит индикатором, поскольку является доминирующей поисковой системой, по данным свой последний отчет о прозрачности, 8 миллиардов ссылок. Тысячи из них представляют собой страницы дипфейкисосредоточено в двух порталах, по данным База данных люменов из Гарвардского университета. Технологические компании, вынужденные новыми законами, начинают действовать.

Доступность инструментов (60% онлайн и 40% загружаемых) дополняет мотивацию насильников, которые убеждают себя, что делают это только из любопытства, влечения к известным женщинам, таким как дело певицы Тейлор Свифти визуализация фантазии, по мнению МСМ. Такое детское восприятие означает, что 74% пользователей (согласно опросу с участием 1522 мужчин) не чувствуют себя виноватыми.

Но эта предполагаемая наивность столь же фальшива, как и материал, который они потребляют. «Это проблема сексистского насилия», — говорит он. в Массачусетский технологический институт (MIT) Адам Додж, основатель EndTAB, некоммерческой организации по обучению использованию технологий. Директива ЕС о борьбе с насилием в отношении женщин включает эти творения как агрессию.

И восприятие этой атаки настолько ясно, что даже подавляющее большинство пользователей Интернета дипфейкиСогласно исследованию МСМ, демонстрируя лицемерие, они сообщили бы о нем, если бы жертвой был кто-то из их близких (73%), и почувствовали бы себя «шокированными и возмущенными» (68%) нарушением их частной жизни.

Рост количества обнаженных людей без согласия произошел, несмотря на законы, которые осуждают эту практику и защищают жертв от предполагаемой свободы выражения мнений, которой обладают создатели контента. «Согласно статье 18.1 Конституции, права на честь, личную и семейную неприкосновенность и собственный имидж считаются основополагающими (…) Статья 20.4 предусматривает, что уважение таких прав представляет собой ограничение на осуществление свободы выражения мнений». как Органический закон 1/1982 г. который регулирует этот вопрос.

«С теоретической точки зрения существует возможная система координат», — объясняет Рикар Мартинес, директор кафедры конфиденциальности и цифровой трансформации Университета Валенсии. В США большинство претензий покрывается Закон об авторском праве в цифровую эпоху (DMCA) 1998.

«Когда вы берете реальное изображение человека, но изменяете его с каким-либо намерением, возникает инструментальное поведение, заключающееся в обработке его изображения без согласия в противоправных целях», — объясняет Мартинес. «Другое дело, — уточняет он, — это комик, который генерирует образ с сатирическим духом и в ясном контексте».

Но эти правила оказались недостаточными, поэтому Европа одобрила в ноябре 2022 года (оно вступило в силу в мае прошлого года) цифровые услуги и законы о рынках «защитить основные права пользователей и создать справедливые условия конкуренции для компаний». Эти правила требуют от крупных компаний сотрудничества в оценке рисков, выявлении, уведомлении и удалении подозрительных ссылок.

«Есть два важных субъекта: тот, кто предлагает инструмент, который всегда будет говорить, что его применение не предназначено для совершения преступления, и тот, кто предлагает творение, тот, кто выступает в роли оратора. Закон налагает на последних более строгие обязанности по сотрудничеству», — добавляет Мартинес.

Google признает новые обязанности и в кратком письменном ответе на рост количества жалоб заявляет: «У нас есть политика в отношении порнографии. дипфейк без согласия, поэтому люди могут удалить этот тип контента, включающий ваше изображение, из результатов поиска. И мы активно разрабатываем дополнительные меры защиты, чтобы помочь пострадавшим. Кроме того, у нас есть процедура удаления, которая позволяет правообладателям защитить свою работу в Интернете».

Мета также находится в этой линии. Ник Клегг, президент по глобальным вопросам, заявил 6 февраля: «Мы навешиваем ярлыки Воображение с помощью ИИ к фотореалистичным изображениям, созданным с помощью нашей функции, но мы также хотим иметь возможность делать то же самое с контентом, созданным с помощью инструментов других компаний». Речь идет о Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock, поскольку они реализуют свои планы по добавлению метаданных к изображениям, созданным их инструментами.

Таким образом, крупные технологические компании присоединяются к юридическому крестовому походу против дипфейки и недавнее принятие европейского закона об искусственном интеллекте, который требует однозначной маркировки творений, созданных с помощью этой технологии. Правительство США тоже движутся в этом направлении. «Больше нельзя утверждать, что использование системы или ее результатов соответствует осуществлению свободы выражения мнений и свободы творчества», — отмечает валенсийский профессор.

«Эта обеспокоенность является общей, и мы начинаем видеть слияние интересов двух разных правовых культур. Этим компаниям начинает посылаться сообщение о том, что не все идет хорошо, что они не могут мыть руки, говоря: «Эй, я всего лишь платформа и я не могу нести ответственность за все». Поставщики услуг информационного общества оказывают решающее влияние на вирусизацию отображаемого контента. Они не являются нейтральным оператором или простым контейнером. Они являются частью операции, игры», — заключает Рикар Мартинес.

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.

_