«ИИ не является непогрешимым: давайте сохранять бдительность» — Эммануэль Дарль предупреждает о свободах, школах и нашем суверенитете

Доктор компьютерных наук и педагог-исследователь Эммануэль Дарль публикует « AI: Иллюзии будущего — Опасности искусственного интеллекта (Éditions Résurgence) и подписывает манифест для публичного обсуждения « активная бдительность “. Приглашенная на разбор полетов после возобновления работы ранее запрещенного YouTube-канала France-Soir, она ставит ИИ в центр важнейших социальных проблем : гражданские свободы, образование, здравоохранение, правосудие и занятость.

« Слово «искусственный интеллект» — полный оксюморон. », – вспоминает она. Современный искусственный интеллект, поддерживаемый огромными объемами данных и вычислительной мощностью графических процессоров, «остается расчетом вероятностей». Однако она предупреждает: «ОСлишком часто мы принимаем 0,51 за номинальную стоимость, как если бы она стоила 100%. «. Этот переход от вероятного к достоверному представляет собой « этическая проблема », особенно когда решения влияют на жизнь.

Видео на специализированном канале France-Soir

Книга не претендует на технофобию. Дарлс выделяет полезные применения – медицинскую визуализацию, промышленную автоматизацию, помощь – но призывает: « Кто принимает окончательное решение: машина или человек? » И, шире, что мы готовы делегировать? « Вопрос не в том, чтобы все остановить, а в том, чтобы поставить меры безопасности там, где это полезно. »

Что касается цензуры и алгоритмической модерации, она документирует « эффект невидимости » : « Эти платформы могут привести к снижению видимости контента, который считается нежелательным, более чем на 95%. » В период Covid, вспоминает она, « миллион видео были удалены с YouTube » в то время как Twitter и Facebook заблокировали или удалили миллионы учетных записей и контента. Помимо платформ, он предупреждает о « принудительные меры » и призывает к демократическому контролю над такими структурами, как DSA и Закон об искусственном интеллекте.

Суть дела также носит воспитательный характер. Столкнувшись с генеративными инструментами, « мы больше не можем оценивать наших студентов “. Его ответ: вернуться к основамустное, очное, объяснение выбора программ. Потому что ” каждая задача, порученная ИИ, потенциально является потерей навыков » и ослабление критического мышления. Вопрос касается автономии и суверенитета: « Прежде чем право на автономию, существует суверенитет – индивидуальный и народный – по отношению к лобби. »

Что касается культуры, она ожидает два ярлыка: « сделано ИИ » и « сделанный человеком » («сделано людьми»). « Творчество тоже рождается из несовершенства, из эмоций. Машина может имитировать, но не чувствовать: это иллюзия. »

Его манифест, который можно скачать на сайте illusionavenir.fr, призывает граждан и выборных должностных лиц «возобновить публичные дебаты» и подтверждает, что « люди не могут быть заменены машиной» и коллективно определить, что общество принимает — или нет — делегировать ИИ. «Давайте сопротивляться, давайте сохранять бдительность. »