[뉴페@스프] Будущее будет определять не сам искусственный интеллект, а реакция на него.

[뉴페@스프] Будущее будет определять не сам искусственный интеллект, а реакция на него.

теги: #ИИ#власть#Предприятие#глубокое обучение#будущее#Открытый ИИ#А.И.#человечество#капитал#ЧатGPT#компьютер

26 ноября 2023 г. | К: веритаголик | СБС Премиум | Без комментариев

* News Peppermint выбирает и переводит одну колонку New York Times для контент-платформы SBS Subs Premium (Soup) и пишет комментарии к статье. Среди них мы представляем написанный нами комментарий с разницей во времени от супа. Саб ПремиумВы также можете читать переведенные колонки вместе с комментариями News Peppermint.

**Статья, представленная сегодня, Написано в «Супе» 11 октября.не виделись.

---

Когда впервые появились амбициозные технологии, предназначенные для решения интеллектуальных задач путем имитации нейронных сетей мозга, мало кто думал, что они действительно смогут имитировать человеческий интеллект. Однако те, кто работал над этой технологией на протяжении десятилетий, наряду с разработкой оборудования 21-го века, наконец, смогли отличить фотографии собак и кошек, а также людей в начале 2010-х годов под названием глубокого обучения.

Однако даже на тот момент многие люди все еще сомневались в том, сможет ли глубокое обучение показать гораздо больше. В 2016 году волнение людей возросло, когда AlphaGo, основанная на этой технологии, обыграла людей в Го. А в 2022 году ChatGPT, основанный на технологии генеративного искусственного интеллекта, будет лучше отвечать практически на все вопросы, чем среднестатистический человек.

Новые технологии удивляют людей, и это удивление включает в себя страх, вызванный тем фактом, что мы их не понимаем. И этот страх выражается по-разному. Конечно, как показывает фильм «Оппенгеймер», некоторые технологии действительно меняют историю и влияют на жизни миллионов людей. Поэтому в некотором смысле вполне естественно, что люди испытывают страх и предостерегают против технологий искусственного интеллекта, которые, как ожидается, окажут большее влияние на человечество, чем атомная бомба 80 лет назад.

Но что интересно, предупреждения об опасности ИИ переплетаются со множеством различных аргументов. Некоторые люди думают, что ИИ будет доминировать или уничтожать сам человеческий вид, как в типичных научно-фантастических фильмах. С другой стороны, другие смеются над этими страхами и отмечают, что ИИ не следует морали того времени в том виде, в каком он используется сейчас. И некоторые люди говорят об опасностях, которые возникнут, если технология ИИ будет захвачена другой группой, например, вражеской страной, как атомная бомба.

28 сентября в разделе мнений газеты New York Times была опубликована статья, в которой говорилось, что для того, чтобы понять предупреждения об опасностях ИИ, мы должны также учитывать интересы тех, кто делает такие заявления.

Полный перевод: Чего преследуют все державы, участвующие в войне искусственного интеллекта

Брюс Шнайер — преподаватель Гарвардской школы Кеннеди и автор книги «Вы не хозяин своих данных». чат по электронной почтеЯ эксперт по безопасности, который поделился

Они четко делят свои предупреждения о рисках ИИ на три лагеря. Первый лагерь — это лагерь судного дня, который утверждает, что ИИ обладает всемогущей силой и поэтому требует крайней осторожности при разработке ИИ. Интересно то, что многие ученые, которые больше всего знают о технологии искусственного интеллекта, такие как Джеффри Хинтон и Джошуа Бенджио, принадлежат к этой группе. Недавно они предложили остановить все исследования в области ИИ. Однако, как говорится, трудно согласиться с возможностью того, что ИИ станет еще одним разумом, которым человек не сможет управлять.

Другой лагерь — реформистский лагерь, который говорит, что существует проблема с тем, как ИИ работает прямо на наших глазах. Другими словами, расизм или сексизм, содержащийся в данных, которые изучает ИИ, проявятся при его использовании. Это неотъемлемая проблема ИИ, но, с другой стороны, это в значительной степени контролируемая проблема, если мы договоримся о желательных аспектах ИИ. Это означает, что эту проблему можно решить путем введения соответствующих правил для тех, кто зарабатывает деньги с помощью технологий искусственного интеллекта.

Последний лагерь — это те, кто рассматривает технологию искусственного интеллекта как технологию, которая даст огромную власть определенным группам, например, атомную бомбу, и сосредоточит внимание на том, кому она должна принадлежать. Если предыдущие два лагеря противопоставляют людей и технологии искусственного интеллекта, то этот лагерь можно назвать более реалистичным, поскольку он снова делит людей на группы. Суп недавно приготовил лидер Плантье, представляющий этот лагерь. письмобыл представлен.

Шнайер и Сандерс в конечном итоге подчеркивают, что их различные предупреждения направлены на их собственную выгоду, и предлагают следующую альтернативу. Другими словами, как сказал Тед Чан, страх перед ИИ связан со страхом перед капитализмом. В прошлом нерегулируемый капитализм угрожал состоянию человечества. Поэтому нам необходимо регулировать ИИ так же, как мы регулируем капитализм, а это означает наличие правил для создания хорошего и эффективного управления. В нем также говорится о выбираемых технологиях искусственного интеллекта, предоставляемых общественностью, а не компаниями. Эта часть напоминает мне о соревновании Linux с Windows от Microsoft.

В XX веке человеческая наука и техника развивались настолько быстро, что напоминали сингулярность. Теория относительности и квантовая механика разгадали тайны Вселенной и движения мельчайших частиц. Полупроводники, теория информации и познание тайн жизни заставили человечество устремиться к концу всех возможных знаний, а ИИ, появившийся в 21 веке, основан на всех этих базовых технологиях и, как ожидается, еще больше ускорит темпы развития. технологического развития. Эта ситуация порождает ожидания того, что наше поколение может увидеть то, что Артур Кларк назвал «концом детства». Конечно, все это будет зависеть от того, как человечество будет относиться к технологиям искусственного интеллекта.