искусственный интеллект (IA) продвигается в бешеном темпе. Поскольку доступ к ЧатGPT был открыт для публики в ноябре прошлого года, технологический сектор ускорила свою приверженность запуску инструментов, которые обеспечивают машинам все более мощные возможности реагирования. Майкрософт он взял на себя инициативу в «вышедшей из-под контроля» деловой гонке, которая может принести ему многомиллиардную прибыль, но чье социальное, экономическое и культурное влияние несет «глубокий риск для человечества».
Именно этот страх побудил более 1000 человек подписать открытое письмо, в котором лабораториям ИИ предлагается «немедленно приостановить как минимум на 6 месяцев» обучение более мощных систем, чем ГПТ-4. Это последнее поколение языковой модели OpenAI, создатель ChatGPT, опубликованный 14 марта и который Microsoft уже интегрирует в свои сервисы, от поисковой системы Bing до таких программ, как Word или Excel. «Эта пауза должна быть публичной и поддающейся проверке (…), если это невозможно сделать быстро, правительства должны вмешаться и ввести мораторий», — поясняют они.
Письмо подписано 1125 экспертами как из сферы бизнеса, так и особенно из академического мира. Примечательно, что первым подписался канадский ученый-компьютерщик Йошуа Бенжио, один из пионеров в развитии компьютерных технологий. глубокое обучение, технология, на которой основаны такие системы, как ChatGPT. Среди подписавших такие имена, как Илон Маскгенеральный директор де Тесла, Twitter и SpaceX, Стив Возняксоучредитель Apple, интеллектуал Юваль Ной Харари или политик Эндрю Ян, Кандидат в президенты США от Демократической партии в 2020 году. Их также сопровождают соучредители таких платформ, как Skype, Pinterest или Ripple.
ненадежный ИИ
Хотя это самые популярные имена, большинство подписантов — известные ученые и исследователи искусственного интеллекта со всего мира. “Это технологии целью которого является создание текста, похожего на человеческий язык, но имеющего очень важную основную проблему, заключающуюся в том, что он не может гарантировать, что то, что он говорит, правда, это ненадежно», — объясняет Карлес Сьерра, директор Исследовательского института искусственного интеллекта. (IIIA) Высшего совета по научным исследованиям (CSIC), в EL PERIÓDICO по телефону.
Это отсутствие надежности означает, что, по словам Сьерры, последствия непредсказуемы, но потенциально столь же «опасны», как и «нравится» социальные сети. Причина запроса регулирование которая защищает граждан от «безрассудной» стратегии таких технологических гигантов, как Microsoft.
Среди авторитетных национальных экспертов, подписавших это письмо, Рамон Лопес де Мантарасдиректор ИИА; Фрэнсис Гиральт, почетный профессор Университета Ровира-и-Виргили; или Мэтью Валеродиректор Барселонского суперкомпьютерного центра — Национального суперкомпьютерного центра.
Большинство из 1125 человек, подписавших письмо, — это специалисты из университетов и исследовательских центров ИИ. «Академики могут более четко говорить об ограничениях, существующих в технологической отрасли», — говорит Сьерра. «Самое страшное, что компании открывают многомиллиардную дыню, и мы уже знаем, что происходит, когда в дело вступают деньги».
Тем не менее, это письмо также воспринимается некоторыми экспертами с подозрением. Эмили М. Бендерпрофессор компьютерной лингвистики Вашингтонского университета, указано что, несмотря на согласие с некоторыми критическими замечаниями, формулировка этого утверждения «помогает» преувеличивать возможности ИИ, способствуя ажиотажу вокруг таких гигантов, как Microsoft или Google.
