Мнение Ральфа Грабовски
У Теда Джиоя 249 000 подписчиков, ряд из которых я завидую. В его Честный брокер Блог, он написал: «Поскольку ИИ становится умнее, он действует более злым». (Вы можете прочитать это по https://www.honest-roker.com/p/as-ai-gets-smarter-it-acts-more-evil.)
Он попросил ответы. Итак, я написал в Твиттере
ЛЛМ на основе ИИ отрыгивает заявления, что мы, как люди с моральными компасами, по-разному идентифицируем себя как злые, нейтральные, позитивные, лжи или точные.
Система ИИ не имеет ни малейшего представления о морали/точности его вывода, и мы не должны антропоморфизировать ее с такими претензиями, как: «О! Она становится все злым».
Его результаты, однако, отражают нас, потому что это наша выход Этот LLM AI входные данныеПолем Мы становимся более злыми, хотя и не оспариваемыми.
Г-н Gioia получил 400 ответов, которые он суммировал в последующем https://www.honest-roker.com/p/why-is-a-bot-like-a-gentlemens-clubПолем Он чувствовал, что ответы в значительной степени упали на три группы, одна из которых он и суммировал так:
Утверждение респондентов (как я): ИИ не может сделать зло, потому что зло требует агентства – и у ИИ нет агентства.
Ответ мистера Джиои: Меня обрести это, особенно потому, что самая горячая вещь в технологии сейчас – агенты ИИ. Лидеры ИИ на самом деле хвастаются агентством своего бота [end of response]Полем
Вот, я думаю, путаница между агентом и агентством – два слова, которые выглядят одинаково, но имеют противоположные значения.
- Анонца агент Выполните задачи от нашего имени, такие как агент книги или агент по недвижимости, находят клиентов и выкладывая контракты, чтобы мы могли подписать. Они выполняют эти задачи, чтобы нам не приходилось брать на себя ответственность за них.
- Агентство свободная воля выражена людьми. Это то, что мы выбираем, или нет. У нас есть агентство, когда мы выступаем свободно, и когда мы самоцензура, когда мы спасаем ребенка и когда мы избегаем спасения ребенка. Никто больше не выполняет эти задачи от нашего имени, и мы несем ответственность за них.
Мы не участвуем с агентом; Мы полностью связаны с агентством. Две противоположные вещи.
С «лидерами ИИ на самом деле хвастаются агентством своего бота», проблема в том, что лидеры ИИ делают априори Ошибка того, что их программное обеспечение искусственно интеллектуально. Это не так, как многие другие указывали передо мной.
ИИ на основе LLM делает вероятностные предположения о том, какими могут быть следующие слова в предложении, в соответствии с тем, что построили человеческие программисты. Программное обеспечение никогда не имеет агентства, независимо от того, как его переименовано. (Ссылка на клуб джентльменов исходит от стриптиз -клубов, переименованных в звучание.)
Претензии о том, что ИИ обладает агентством, напоминают претензии о прорывах в холодном слиянии, квантовых вычислениях и поездках на Марс. Позвольте мне сказать это так: ИИ больше не способен на зло, как автомобиль.
2025-07-30 15:02:00
1753924565
#ИИ #не #способен #на #зло
Читайте также
