Home » Инструменты искусственного интеллекта тайно тренируются на реальных изображениях детей

Инструменты искусственного интеллекта тайно тренируются на реальных изображениях детей

Более 170 изображений и личных данных детей из Бразилии были извлечены из набора данных с открытым исходным кодом без их ведома и согласия. используется для тренировки ИИутверждает новый отчет от Human Rights Watch, опубликованного в понедельник.

Согласно отчету, изображения были извлечены из контента, опубликованного совсем недавно, в 2023 году, и еще в середине 1990-х годов, задолго до того, как любой интернет-пользователь мог предположить, что их контент может быть использован для обучения ИИ. Хьюман Райтс Вотч утверждает, что личные данные этих детей, а также URL-ссылки на их фотографии были включены в LAION-5B, набор данных, который был популярным источником данных для обучения стартапов в области искусственного интеллекта.

«Их конфиденциальность нарушается в первую очередь, когда их фотография очищается и попадает в эти наборы данных. А затем эти инструменты искусственного интеллекта обучаются на этих данных и, следовательно, могут создавать реалистичные изображения детей», — говорит Хе Юнг Хан, исследователь прав детей и технологий в Human Rights Watch и исследователь, который нашел эти изображения. «Технология разработана таким образом, что любой ребенок, у которого есть какая-либо фотография или видео с собой в Интернете, теперь подвергается риску, потому что любой злоумышленник может сделать это фото, а затем использовать эти инструменты, чтобы манипулировать ими по своему усмотрению».

LAION-5B основан на Common Crawl — репозитории данных, созданном путем очистки Интернета и предоставленном исследователям, — и использовался для обучения нескольких моделей искусственного интеллекта, включая инструмент создания изображений Stable Diffusion компании Stability AI. По данным веб-сайта, набор данных, созданный немецкой некоммерческой организацией LAION, находится в открытом доступе и теперь включает более 5,85 миллиардов пар изображений и подписей.

Read more:  План кабинета министров: воссоединение семьи только в том случае, если у мигранта также есть дом | Внутренний

Изображения детей, обнаруженные исследователями, были взяты из блогов мам и других личных блогов, блогов для беременных или родителей, а также кадров из видеороликов на YouTube с небольшим количеством просмотров, которые, по-видимому, загружались для того, чтобы ими можно было поделиться с семьей и друзьями.

«Просто глядя на контекст того, где они были опубликованы, они наслаждались ожиданиями и определенной степенью конфиденциальности», — говорит Хе. «Большинство этих изображений невозможно было найти в Интернете с помощью обратного поиска изображений».

Представитель LAION Нейт Тайлер сообщил, что организация уже приняла меры. «LAION-5B была отключена в ответ на отчет Стэнфорда, в котором были обнаружены ссылки в наборе данных, указывающие на незаконный контент в общедоступной сети», — говорит он, добавляя, что в настоящее время организация работает с «Internet Watch Foundation», Канадским центром защиты детей. Protection, Stanford и Human Rights Watch удалить все известные ссылки на незаконный контент».

YouTube Условия использования не допускайте соскабливания, за исключением определенных обстоятельств; эти случаи, похоже, противоречат этой политике. «Нам ясно дали понять, что несанкционированное извлечение контента YouTube является нарушением наших Условий обслуживания, — говорит представитель YouTube Джек Маон, — и мы продолжаем принимать меры против такого рода злоупотреблений».

В декабре, исследователи из Стэнфордского университета обнаружили что данные обучения ИИ, собранные LAION-5B, содержали материалы о сексуальном насилии над детьми. Проблема явных дипфейков растет даже среди учащихся школ США, где их используют. издеваться над одноклассниками, особенно над девочками. Хе обеспокоен тем, что помимо использования детских фотографий для создания CSAM, база данных может раскрыть потенциально конфиденциальную информацию, такую ​​​​как местоположение или медицинские данные. В 2022 году американский художник нашла свое изображение в наборе данных LAIONи поняла, что это было из ее личных медицинских записей.

Read more:  Обнародовано место проведения свадьбы Пулкит Самрат Крити Харбанда | Пулкит Самрат Крити Харбанда, дата и место свадьбы | Когда и где выйдет замуж Пулкит Самрат Крити Харбанда | Список знаменитостей, приглашенных на свадьбу Пулкита Самрата Крити Харбанды

2024-06-10 04:01:00


1718026057
#Инструменты #искусственного #интеллекта #тайно #тренируются #на #реальных #изображениях #детей

Leave a Comment

This site uses Akismet to reduce spam. Learn how your comment data is processed.