Microsoft пытается обновить свое бесплатное программное обеспечение для искусственного интеллекта после скандала с дипфейками Тейлор Свифт

Microsoft приняла жесткие меры против использования бесплатного программного обеспечения компании для искусственного интеллекта после того, как этот инструмент был связан с созданием откровенно сексуальные дипфейковые изображения Тейлор Свифт, заполонившие социальные сети – и поднял призрак иска со стороны разъяренного певца.

Технический гигант выпустил обновление своего популярного инструмента под названием Designer — программы преобразования текста в изображение на базе OpenAI Dall-E 3 — которое добавляет «ограждения», которые предотвратят использование фотографий без согласия, сообщила компания.

Фальшивые фотографии, на которых изображена обнаженная Свифт в окружении игроков «Канзас-Сити Чифс» и отсылают к ее широко разрекламированному роману с Трэвисом Келси, были прослежены до дизайнерского искусственного интеллекта Microsoft до того, как они начали распространяться на X, Reddit и других веб-сайтах. Об этом в понедельник сообщил сайт 404 Media, посвященный технологиям..

«Мы расследуем эти сообщения и принимаем соответствующие меры для их устранения», — сообщил представитель Microsoft изданию 404 Media, которое впервые сообщило об обновлении.

«У нас есть большие команды, работающие над разработкой ограждений и других систем безопасности в соответствии с нашими принципами ответственного ИИ, включая фильтрацию контента, оперативный мониторинг и обнаружение злоупотреблений, чтобы уменьшить злоупотребление системой и помочь создать более безопасную среду для пользователей», — заявил представитель компании. добавил, отметив, что согласно Кодексу поведения компании любые пользователи Designer, создающие дипфейки, потеряют доступ к сервису.

Представители Microsoft не сразу ответили на запрос The Post о комментариях.

Обновление появилось после того, как генеральный директор Microsoft Сатья Наделла заявил, что технологическим компаниям необходимо «действовать быстро», чтобы бороться со злоупотреблением инструментами искусственного интеллекта.

Наделла, чья компания является ключевым инвестором создателя ChatGPT OpenAI, назвал распространение фейковых порнографических изображений певца «Жестокого лета» «тревожным и ужасным».

«Мы должны действовать. И, честно говоря, все мы на технологической платформе, независимо от вашей позиции по какому-либо конкретному вопросу», — сказал Наделла, согласно стенограмме. перед интервью в интервью NBC Nightly Newsкоторый выйдет в эфир во вторник.

«Я не думаю, что кто-то захочет онлайн-мир, который совершенно небезопасен как для создателей контента, так и для потребителей контента».

Дипфейки Swift были просмотрены на X более 45 миллионов раз, прежде чем их окончательно удалили примерно через 17 часов.

Источник, близкий к Свифту, был потрясен: «Платформа социальных сетей даже позволяла им быть в курсе», сообщила -, особенно с учетом того, что в Справочном центре X излагаются правила, которые запрещают публикацию «синтетических и манипулируемых медиа», а также «без согласия». нагота».

На выходных платформа социальных сетей Илона Маска предприняла экстраординарный шаг, заблокировав любые поисковые запросы, связанные с именем Свифта, которые не давали результатов — даже те, которые были безобидными.

Исполнительный директор X Джо Бенаррок назвал этот шаг «временной мерой, сделанной с большой осторожностью, поскольку мы уделяем приоритетное внимание безопасности в этом вопросе».

Запрет остался в силе в понедельник.

Этот спор может означать еще одну головную боль для Microsoft и других лидеров в области искусственного интеллекта, которые уже сталкиваются с растущим юридическим, законодательным и нормативным контролем в отношении растущей технологии.

Пресс-секретарь Белого дома Карин Жан-Пьер назвала тенденцию дипфейков «очень тревожной» и заявила, что администрация Байдена «собирается сделать все возможное, чтобы справиться с этой проблемой».

Рост дипфейков с использованием искусственного интеллекта может стать ключевой темой позже на этой неделе, когда генеральный директор Meta Марк Цукерберг, генеральный директор TikTok Шу Чу и другие видные технологические боссы дадут показания перед комиссией Сената.

Ранее в этом месяце член палаты представителей Джозеф Морелл (демократ от Нью-Йорка) и Том Кин (республиканец от Нью-Джерси) вновь внес законопроект, который сделает обмен без согласия порнографических изображений, измененных в цифровой форме, является федеральным преступлением и влечет за собой налагаемые наказания, такие как тюремное заключение, штраф или и то, и другое.

«Закон о предотвращении дипфейков интимных изображений» был передан в комитет Палаты представителей по судебной власти, но комитет еще не принял решение о том, принимать или нет законопроект.