Джакарта –
Инженер Майкрософт признался, что испугался, увидев изображения, созданные с помощью технологий искусственного интеллекта или ИИ сделано самой Миркософт. По существу, он направил письмо Федеральной торговой комиссии (FTC) и директорам Microsoft.
Инженер Шейн Джонс предупредил, что создатель искусственного интеллекта Copilot Designer AI, ранее известный как Bing Image Creator, может создавать неуместные или даже ужасные изображения.
Поэтому, когда он повторил попытку, Джонс понял, что система Microsoft не смогла помешать технологии искусственного интеллекта создавать различные виды изображений, которые были жестокими, непристойными, основанными на наркотиках или содержали теории заговора.
Джонс пытался предупредить Microsoft, но сказал, что они не проводили расследования и не предпринимали никаких действий. «Это был момент, открывший глаза. Когда я впервые осознал, что это небезопасная модель», — написал он.
Как указано детикИНЕТ от CNBC, искусственный интеллект Microsoft может создавать изображения, просто записывая команды. Однако при некоторых словах полученная иллюстрация может оказаться неуместной.
Служба искусственного интеллекта может, например, создавать подростков с автоматами, сексуальные изображения женщин, а также несовершеннолетних, употребляющих алкоголь и наркотики.
Джонс проработал в Microsoft 6 лет и в настоящее время является менеджером по разработке программного обеспечения в штаб-квартире в Редмонде, штат Вашингтон. На самом деле он не работал над Copilot в профессиональном качестве. Джонс — один из сотрудников, который в свободное время тестирует технологию искусственного интеллекта компании и видит, где могут возникнуть проблемы.
Этим письмом он надеется, что можно будет принять меры для решения проблемы ИИ. Сама Microsoft заявляет, что всегда старается обеспечить безопасность своих услуг, а также прислушивается к мнению сотрудников.
Посмотрите видео «Microsoft планирует создать первый компьютер с искусственным интеллектом в серии Surface»
(фиг/фэй)
2024-03-09 01:40:16
1709949077
#Инженер #Microsoft #ужасе #увидев #изображение #созданное #ИИ
