МЭТТ О’БРАЙЕН
Принц Гарри и его жена Меган присоединились к видным ученым-компьютерщикам, экономистам, художникам, христианским лидерам евангелистов и американским консервативным комментаторам Стиву Бэннону и Гленну Беку, чтобы призвать к запрету «сверхинтеллекта» искусственного интеллекта, который угрожает человечеству.
Письмо, опубликованный в среду политически и географически разнообразной группой общественных деятелей, он прямо нацелен на таких технологических гигантов, как Google, OpenAI и Meta Platforms, которые соревнуются друг с другом в создании формы искусственного интеллекта, призванной превзойти людей во многих задачах.
В письме содержится призыв к запрету, если не будут выполнены некоторые условия.
В заявлении из 30 слов говорится:
«Мы призываем к запрету на развитие сверхразума, который не будет снят до тех пор, пока не будет достигнут широкий научный консенсус в отношении того, что это будет осуществляться безопасно и контролируемо, и не будет сильной общественной поддержки».
В преамбуле письма отмечается, что инструменты ИИ могут принести здоровье и процветание, но наряду с этими инструментами «многие ведущие компании ИИ ставят перед собой заявленную цель создания в ближайшее десятилетие сверхинтеллекта, который сможет значительно превзойти всех людей практически во всех когнитивных задачах. вымирание человечества».
Кто подписал и что они об этом говорят
Принц Гарри добавил в личной записке, что “будущее ИИ должно служить человечеству, а не заменять его. Я считаю, что истинным критерием прогресса будет не то, насколько быстро мы движемся, а насколько мудро мы управляем. Второго шанса не существует”.
Рядом с герцогом Сассекским подписалась его жена Меган, герцогиня Сассекская.
«Это не запрет и даже не мораторий в обычном понимании», — написал еще один подписавший, Стюарт Рассел, пионер искусственного интеллекта и профессор информатики в Калифорнийском университете в Беркли. “Это просто предложение потребовать адекватных мер безопасности для технологии, которая, по мнению ее разработчиков, имеет значительный шанс вызвать вымирание человечества. Разве это слишком многого?”
Также подписали контракт пионеры искусственного интеллекта и Джеффри Хинтон, лауреаты Премии Тьюринга, главной премии в области компьютерных наук. Хинтон также получил Нобелевскую премию по физике в прошлом году. Оба были громкими в привлечении внимания к опасностям технологии, которую они помогли создать.
Но в списке также есть некоторые сюрпризы, в том числе Бэннон и Бек в попытке организаторов письма из некоммерческого Института будущего жизни обратиться к движению президента Дональда Трампа «Сделаем Америку снова великой», хотя сотрудники Белого дома Трампа это сделали. стремился ослабить ограничения о развитии ИИ в США
Также в списке значатся соучредитель Apple Стив Возняк; британский миллиардер Ричард Брэнсон; бывший председатель Объединенного комитета начальников штабов США Майк Маллен, работавший при республиканской и демократической администрациях; и демократическая иностранная политический эксперт Сьюзан Райскоторый был советником по национальной безопасности президента Барака Обамы.
Бывший Президент Ирландии Мэри Робинсон Подписали несколько британских и европейских парламентариев и бывших членов Конгресса США, а также актеры Стивен Фрай и Джозеф Гордон-Левитт, а также музыкант will.i.am, который ранее уже подписался. внедрил искусственный интеллект в музыку создание.
-
Лауреат Нобелевской премии по физике 2024 года, британско-канадский ученый-компьютерщик Джеффри Хинтон выступает с речью во время банкета по случаю вручения Нобелевской премии в мэрии Стокгольма, Швеция, 10 декабря 2024 года. (Фото Джонатана НАКСТРАНДА/-) (Фото JONATHAN NACKSTRAND/- через Getty Images)
1 из 9
Лауреат Нобелевской премии по физике 2024 года, британско-канадский ученый-компьютерщик Джеффри Хинтон выступает с речью во время банкета по случаю вручения Нобелевской премии в мэрии Стокгольма, Швеция, 10 декабря 2024 года. (Фото Джонатана НАКСТРАНДА/-) (Фото JONATHAN NACKSTRAND/- через Getty Images)
«Да, нам нужны конкретные инструменты искусственного интеллекта, которые могут помочь лечить болезни, укреплять национальную безопасность и т. д.», — написал Гордон-Левитт, чья жена Таша МакКоли работала в совете директоров OpenAI до переворота, который привел к назначению генерального директора. Временное отстранение Сэма Альтмана в 2023 году. “Но должен ли ИИ также подражать людям, ухаживать за нашими детьми, превращать нас всех в наркоманов и зарабатывать миллионы долларов на рекламе? Большинство людей этого не хотят”.
Подпитывают ли опасения по поводу сверхинтеллекта ИИ шумиху вокруг ИИ?
Письмо, вероятно, спровоцирует продолжающиеся дебаты в исследовательском сообществе ИИ о вероятности создания сверхчеловеческого ИИ, технических путях его достижения и о том, насколько опасным он может быть.
«В прошлом ботаники в основном сражались против ботаников», — сказал Макс Тегмарк, президент Института будущего жизни и профессор Массачусетского технологического института. «Я чувствую, что на самом деле мы наблюдаем здесь то, как критика стала очень популярной».
Более широкие дебаты осложняются тем, что те же компании, которые стремятся к тому, что некоторые называют сверхинтеллектом и другие звонят общий искусственный интеллект, или AGIтакже иногда преувеличивают возможности своей продукции, что может сделать ее более востребованной на рынке и вызывает беспокойство. о пузыре искусственного интеллекта. OpenAI недавно был встречен насмешками со стороны математиков и ученых в области искусственного интеллекта, когда его исследователь заявил, что ChatGPT решил нерешенные математические задачи, тогда как на самом деле он нашел и суммировал то, что уже было в сети.
«Есть масса вещей, которые преувеличены, и вам, как инвестору, нужно быть осторожным, но это не меняет того факта, что — если уменьшить масштаб — за последние четыре года ИИ развивался намного быстрее, чем прогнозировало большинство людей», — сказал Тегмарк.
Группа Тегмарка также стояла за Письмо за март 2023 г. – еще на заре бум коммерческого искусственного интеллекта — это призвало технологических гигантов временно приостановить разработку более мощных моделей искусственного интеллекта. Ни одна из крупных компаний, занимающихся искусственным интеллектом, не прислушалась к этому призыву. И самый известный подписавший письмо 2023 года, Илон Маск, в то же время незаметно основал свой собственный стартап в области искусственного интеллекта, чтобы конкурировать с теми, у кого он хотел взять шестимесячную паузу.
На вопрос, обращался ли он к Маску снова на этот раз, Тегмарк ответил, что написал генеральным директорам всех крупных разработчиков искусственного интеллекта в США, но не ожидал, что они подпишут соглашение.
«Честно говоря, я им очень сочувствую, потому что они настолько застряли в этой гонке ко дну, что просто чувствуют непреодолимое давление, чтобы они продолжали идти и не были обогнаны другим парнем», – сказал Тегмарк. «Я думаю, именно поэтому так важно заклеймить гонку за сверхразумом до такой степени, что правительство США просто вмешается».
Google, Meta, OpenAI и xAI Маска не сразу ответили на запросы о комментариях в среду.
Первоначально опубликовано:
2025-10-22 22:08:00
1761182325
#Принц #Гарри #Меган #присоединяются #Стиву #Бэннону #Гленну #Беку #призыве #запретить #разработку #сверхинтеллекта #искусственного #интеллекта
Продолжение темы
