Саммит AI Impact в Индии
Какое влияние оказывает ИИ – на безопасность, на человечество?
Источник: ДПА
3 мин. Время чтения
Провайдеры по теме
Многие уже привыкли к ChatGPT и другим приятным ИИ-помощникам: планирование путешествий, повседневные вопросы, помощь в работе. Однако с быстрым развитием технологий появляются новые предупреждения об опасностях.
(Изображение: © Художник — stock.adobe.com / создано AI)
Что произойдет, если вещи, которые сегодня кажутся безобидными, Чат-Ассистент вроде ЧатGPT Благодаря быстрым технологическим скачкам появится сверхразум, который превосходит человека почти во всех интеллектуальных задачах, способен действовать независимо, действовать стратегически и, возможно, даже взять на себя управление? Научная фантастика? Не обязательно.
«Саммит воздействия искусственного интеллекта» в Нью-Дели
Главы государств и правительств, министры и руководители крупных технологических компаний в настоящее время встречаются в Нью-Дели на «Саммите воздействия ИИ» и обсуждают последствия ИИ. Еще одна тема обсуждения — безопасность и вопрос о том, насколько опасной может стать эта технология, учитывая все достижения, которые она с собой несет. Канцлер Фридрих Мерц (ХДС) направил для этого своего эксперта: министра цифровых технологий Карстена Вильдбергера (ХДС).
Бывший руководитель MediaMarktSaturn в целом положительно относится к технологиям в своем офисе. Но он не слепой «прославитель технологий», заявил он журналистам во время полета в Дели. «Я также вижу опасности и проблемы». Вильдбергер отмечает, что риски уже сегодня становятся видимыми, несмотря на то, что не существует суперК нуждаться. Если вы передадите большую часть своей обычной деятельности ИИ, это станет первым шагом к зависимости.
Апокалиптический сценарий ИИ
В книге с апокалиптическим названием «Если кто-то это построит, кто-нибудь умрет» американские исследователи искусственного интеллекта Элиэзер Юдковски и Нейт Соарес предупреждают: если кому-то в мире удастся создать сверхразум, все на планете умрут. Идея, стоящая за этим: такой ИИ в какой-то момент может быть направлен против человечества. Может быть, потому, что приходит к математическому выводу, что человечество вредно для планеты, или по какой-то другой причине.
Авторы не смеют предсказывать, когда это может произойти, но ИИ не останется глупым навсегда, особенно если его использовать для оптимизации путем интеграции в программирование или даже полного его контроля. Эксперты говорят в данном случае о «интеллектуальном взрыве» и призывают отнестись к этому вопросу серьезно. Развитие сверхинтеллекта еще можно предотвратить.
Шантаж как стратегия выживания ИИ
Глава ИИ-компании верит в сценарии конца света антропный ничего с их конкурентом ChatGPT «Клодом» Дарио Амодеи, как он недавно написал в эссе. Но он также не исключает возможности того, что вскоре может появиться искусственный интеллект, который затмит большинство лауреатов Нобелевской премии, который будет решать ранее нерешённые математические задачи и работать независимо. Интернет ориентирован, умеет упорядочивать вещи и создает тексты, аудио или видео лучше, чем кто-либо. Всего за один-два года нынешние системы искусственного интеллекта смогут полностью независимо программировать свои лучшие версии-преемники, говорит Амодей.
Такая «страна гениев в одном Дата-центр«Как он это называет, имел бы довольно хорошие шансы на мировое господство, если бы решил сделать это по какой-либо причине, — предупреждает Амодей. В последние годы системы ИИ показали, что их трудно прогнозировать и контролировать. Anthropic, например, обнаружил в ходе испытаний, что модель ИИ использовала шантаж, чтобы избежать замены предположительно новой моделью.
«Прямо сейчас происходит что-то важное» — рабочие места в опасности?
«Прямо сейчас происходит что-то грандиозное», — недавно написал на X американский предприниматель в области искусственного интеллекта Мэтт Шумер. Этот пост был просмотрен более 80 миллионов раз и также вызвал споры об опасностях. Шумер смотрит в первую очередь на рабочие места: ни одна из нынешних компьютерных профессий не является безопасной в среднесрочной перспективе.
«Если ваша работа происходит на экране (если она по существу включает в себя чтение, письмо, анализ, принятие решений и общение через один Клавиатура идет), то большую его часть возьмет на себя ИИ. Не в какой-то момент, это уже началось», — пишет он.
Немецкий эксперт по искусственному интеллекту: «Подождем и посмотрим»
Не все эксперты бьют тревогу. «Подождем и увидим», — сказал недавно Антонио Крюгер из Немецкого исследовательского центра искусственного интеллекта на Deutschlandfunk. Более сложные задачи программирования, которые поручаются системам ИИ, по-прежнему требуют мониторинга и проверки результатов.
Для этого требуются разработчики программного обеспечения, которые что-то знают в своем ремесле. Нам еще далеко до того, чтобы системы искусственного интеллекта совершенствовались без обратной связи. «На данный момент я не вижу большого прорыва в направлении полной автономии систем искусственного интеллекта».
Министр цифровых технологий Вильдбергер прав в том, что дебаты о безопасности теперь становятся еще более ясными. Он призывает людей активно участвовать в развитии технологии. Китай и США в любом случае сделали бы это. Германия должна быть там. «Мы должны овладеть технологией, чтобы иметь возможность ее контролировать».
(ID:50716739)
2026-02-18 15:30:00
1771482292
#Какое #влияние #оказывает #ИИ #на #безопасность #на #человечество
По теме
