Илон Маск и сотни мировых экспертов в среду подписали призыв к шестимесячной паузе в исследованиях искусственного интеллекта, более мощного, чем ChatGPT 4, модели OpenAI, запущенной в середине марта, сославшись на «серьезные риски для человечества».
В этой петиции, опубликованной на сайте futureoflife.org, они призывают ввести мораторий до тех пор, пока не будут созданы системы безопасности, в том числе новые специальные регулирующие органы, мониторинг систем ИИ, методы, помогающие различать настоящие искусственные и институты, способные справиться с «драматическими экономическими и политическими проблемами». разрушение (особенно демократии), которое вызовет ИИ».
Петиция объединяет деятелей, которые уже публично выражали свои опасения по поводу неконтролируемого ИИ, который превзойдет людей, в том числе Илона Маска, владельца Twitter и основателя SpaceX и Tesla, и Юваля Ноа Харари, автора книги «Сапиенс». .
Также подписант Йошуа Бенжио, канадский пионер ИИ, выразил свою обеспокоенность во время виртуальной пресс-конференции в Монреале: «Я не думаю, что общество готово столкнуться с этой силой, например, с потенциальным манипулированием населением, которое может поставить под угрозу демократию. «Поэтому мы должны найти время, чтобы замедлить эту начавшуюся коммерческую гонку, — добавил он, призвав к обсуждению этих вопросов на глобальном уровне, — как мы это сделали в отношении энергетики и ядерного оружия. “.
«Нужно время для адаптации»
Сэм Альтман, босс OpenAI, разработчик chatGPT, сам признался, что «немного испугался» своего творения, если оно использовалось для «крупномасштабной дезинформации или кибератак». «Обществу нужно время, чтобы приспособиться», — сказал он ABCNews в середине марта.
«В последние несколько месяцев лаборатории искусственного интеллекта замкнулись в неконтролируемой гонке по разработке и внедрению все более мощных цифровых мозгов, которые никто — даже их создатели — не может достоверно понять, предсказать или контролировать». -они.
«Должны ли мы позволить машинам заполнять наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать все рабочие места, включая вознаграждение? Нужно ли нам развивать нечеловеческие умы, которые однажды станут более многочисленными, умными, устаревшими и заменят нас? Должны ли мы рисковать потерять контроль над нашей цивилизацией? Эти решения не должны делегироваться неизбранным технологическим лидерам», — заключают они.
В число подписантов также входят соучредитель Apple Стив Возняк, сотрудники лаборатории Google DeepMind AI, руководитель конкурента OpenAI Stability AI Эмад Мостак, а также эксперты в области искусственного интеллекта и американские ученые, исполнительные инженеры Microsoft. , группа союзников OpenAI.
