По мере того, как область искусственного интеллекта (ИИ) перерастала из смутных надежд в поразительные реалии, как это видно на примере таких технологий, как ChatGPT, тревога становилась все яснее. Джеффри Хинтон, так называемый «крестный отец ИИ», покинул Google, чтобы более четко говорить об угрозе, которую представляет технология, которая однажды может стать умнее своих создателей. Он категорически против того, чтобы позволить военным использовать ИИ, и опасается, что однажды искусственный гиперинтеллект сможет манипулировать людьми.
Как нам убедить наши машины вести себя этично, даже если мы не смотрим? Готовящаяся к выходу книга Ева Пул называется Души роботов: программирование в человечестве утверждает, что мы должны сделать их более похожими на нас, а это означает наполнить их сочувствием и состраданием, даже если это означает снижение их эффективности. Это не будет простым обновлением программы, и, как и в случае с людьми, эмпатия и забота останутся специфическими для человека, своего рода искусственной субъективностью.
Читать далее: Может ли ИИ читать ваши мысли?
Что делать с ИИ
Как и Хинтон, Пул выступает за немедленный запрет на автономное оружие и правило, согласно которому никакому искусственному интеллекту нельзя позволять отнимать человеческую жизнь. Она также предлагает дать ИИ путь к юридическому статусу, который необходимо переопределить с учетом технологии. Когда это происходит, мы должны дать ИИ те части нас самих, в которых раньше отказывали машинам, «мусорный код» эмоций, свободную волю и целеустремленность.
«Именно этот «мусор» лежит в основе человечества», — говорит она. в пресс-релизе. «Наш мусорный код состоит из человеческих эмоций, нашей склонности к ошибкам, нашей склонности рассказывать истории, нашего сверхъестественного шестого чувства, нашей способности справляться с неопределенностью, непоколебимого чувства собственной свободы воли и нашей способности видеть смысл в мире. вокруг нас.”
Пул добавляет, что «за всеми этими странными и причудливыми свойствами стоит скоординированная попытка сохранить наш вид в безопасности».
Слева на полу монтажной
Когда ученые разрабатывали ИИ, они полагали, что субъективные и наиболее человеческие части нас самих были излишними, но Пул говорит, что они нужны и машинам, если мы хотим, чтобы они поступали правильно.
«Предполагалось, что роботы с такими функциями, как эмоции и интуиция, которые совершают ошибки и ищут смысл и цель, не будут работать так же хорошо», — говорит Пул. «Но на самом деле именно этот «мусорный» код делает нас людьми и способствует взаимному альтруизму, который поддерживает жизнь и процветание человечества».
Читать далее: Профессии, наиболее уязвимые для ChatGPT
2023-06-11 23:00:00
1686528736
#Что #делать #такой #проблемой #как #ИИ
