В письме, подписанном более чем 1000 человек, содержится предупреждение о потенциальных рисках для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.
Илон Маск и группа экспертов по искусственному интеллекту призывают приостановить подготовку мощных систем ИИ из-за потенциальных рисков для общества и человечества.
В письме, выпущенном некоммерческим Институтом будущего жизни и подписанном более чем 1000 человек, содержится предупреждение о потенциальных рисках для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.
«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества», — предупреждает письмо.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми».
Он призвал к шестимесячной остановке «опасной гонки» по разработке систем, более мощных, чем OpenAI. недавно запущенный ГПТ-4.
Если такая пауза не может быть принята быстро, в письме говорится, что правительства должны вмешаться и ввести мораторий.
«Лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами», — говорится в письме.
«Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны».
Читать далее:
Некоторые пользователи Twitter начнут терять синие галочки со следующего месяца
Ведущий Sky News теперь может читать вам наши статьи — вот как
Письмо также подписали соучредитель Apple Стив Возняк, Йошуа Бениго, которого часто называют одним из «крестных отцов ИИ», и Стюарт Рассел, пионер исследований в этой области, а также исследователи DeepMind, принадлежащей Alphabet. .
Согласно реестру прозрачности Европейского Союза, Институт будущего жизни в основном финансируется Фондом Маска, лондонской группой эффективного альтруизма Founders Pledge и Фондом сообщества Силиконовой долины.
Маск открыто высказывался о своих опасениях по поводу ИИ. Его автопроизводитель Tesla использует искусственный интеллект для системы автопилота.
С момента выпуска в прошлом году поддерживаемого Microsoft OpenAI ChatGPT побудил конкурентов ускорить разработку аналогичных больших языковых моделей и побудил компании интегрировать генеративные модели ИИ в свои продукты.
Великобритания представляет предложения по «легкому» регулированию ИИ
Это происходит, когда правительство Великобритании обнародовало предложения по «мягкой» нормативно-правовой базе вокруг ИИ.
Подход правительства, изложенный в программном документе, заключается в том, чтобы разделить ответственность за управление ИИ между регулирующими органами в области прав человека, здоровья и безопасности и конкуренции, а не создавать новый орган, занимающийся этой технологией.
Между тем, ранее на этой неделе Европол присоединился к хору этических и юридических опасений по поводу передового ИИ, такого как ChatGPT, предупредив о потенциальном неправомерном использовании системы в попытках фишинга, дезинформации и киберпреступности.
