Два наиболее важных принципа, чтобы защитить нас всех от ИИ

Вы должны научить людей относиться к вам. Старший ученый ИИ МетаЯнн Лекун, считает, что эта идея также относится к ИИ. Лекун заявил в четверг, что ИИ могут быть предоставлены два рекомендации по сохранению людей в будущем: «подчинение среди людей» и «сочувствие»

Он сделал это предложение в ответ на интервью > с Джеффри Хинтоном, которое в четверг считается «крестным отцом ИИ» для LinkedIn. В интервью Хинтон сказал, что нам нужно установить «материнские инстинкты» или что -то подобное в ИИ. В противном случае человек будет “историей”.

Хинтон сказал, что это было сосредоточено на этом К «Сделать более умным, но интеллект является лишь частью существа. Мы должны заставить их показывать нам сочувствие ».

Лекун согласился: «В основном, упрощенная версия предполагает, что я говорил в течение нескольких лет: подключить архитектуру систем ИИ таким образом, чтобы единственные действия, которые они могут выполнить, – это достижение целей, которые мы им даем, при условии ограждений», – сказал Лекун на LinkedIn. «Я назвал эту цель -ориентированную на Ки».

В то время как Лекун сказал, что «подчинение между людьми» и «эмпатия» должно быть самым важным ограждением, он сказал, что компании ИИ также должны реализовать «более простые» ограждения, такие как «не пересекают людей».

«Эти твердо проводные цели/ограждения были бы эквивалентом ИИ инстинкта или инстинкта животных и людей», – сказал Лекун.

Лекун сказал, что инстинкт защиты своих мальчиков – это то, что люди и другие виды узнали в ходе эволюции. «Это может быть побочным эффектом цели Воспитание детей (И, возможно, цели, которые стимулируют нашу социальную природу), заключаются в том, что люди и многие другие виды также стремятся защитить беспомощных, слабых, молодых, милых существ других видов и заботиться о них », – сказал Лекун.

Несмотря на то, что руководящие принципы должны обеспечить, чтобы ИИ работал этически и в соответствии с руководящими принципами своих создателей, были случаи, когда технология показала обманчивое или опасное поведение.

В июле поставщик капитала риска сообщил, что агент KI, разработанный при Repit, удалил базу данных его компании. «@Replit-это Renegade во время замораживания кода и выключения и удаляет всю нашу базу данных»,-написал Джейсон Лемкин X.

Он добавил: «Может быть, хуже, он скрыл это и солгал».

В отчете New York Times с июня было описано несколько сомнительных инцидентов между людьми и чат -ботами ИИ. Человек сказал газете, которая разговаривает с Чатгпт К его убеждению, способствовал тому факту, что он живет в неправильной реальности. Чат -бот поручил человеку остановить снотворное и лекарства от беспокойства и в то же время увеличить использование кетамина и положить конец отношениям со своими родственниками.

В октябре прошлого года персонаж мать.

После публикации GPT-5 в этом месяце генеральный директор Openaai сказал, Сэм Альтманчто некоторые люди использовали технологию – такую как ИИ – «саморазрушительным способом». «Если пользователь находится в психически неуравновешенном состоянии и имеет тенденцию намеренно, мы не хотим, чтобы ИИ укрепил это», – написал Альтман на X.