Отец chatGPT бьет тревогу: «Человечество рискует исчезнуть»

AGI – Более 350 экспертов, профессоров и высокопоставленных представителей технологического сектора подняли тревогу по поводу искусственного интеллекта, предупредив о «риске вымирания» для человечества, который он влечет за собой, и призвав политиков приравнять угрозу к угрозам пандемии и ядерной войны.

«Снижение риска исчезновения, создаваемого искусственным интеллектом, должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война», — подчеркнули они в кратком письме, опубликованном Центром безопасности ИИ (Cais). Среди подписавших Сэм АльтманГенеральный директор OpenAI, создавший ChatGPT вместе с Джеффри Хинтон е Джошуа Бенжиосчитаются «крестными отцами» ИИ.

Л’ад в DeepMind, Демис Хассабис, Макс Тегмарк Массачусетского технологического института, соучредитель Skype Ян Таллинн и музыкант Граймс входят в число других лиц, подписавших намеренно «краткое» сообщение, потому что, согласно веб-сайту Cais, его сторонники намерены избежать того, чтобы их апелляция о «некоторых из наиболее серьезных рисков продвинутого искусственного интеллекта» была задушена обсуждением других «важных и неотложные риски, связанные с искусственным интеллектом», которые, хотя и очень значительны, рискуют отвлечь дебаты от более конкретной опасности.

Будущие опасности и нынешние искажения

Популяризация генеративного искусственного интеллекта с распространением чат-ботов, таких как ChatGPT, привела к увеличению числа призывов оценить последствия разработки таких инструментов. Прежде всего, в марте прошлого года открытое письмо, подписанное Илон Маск который призвал к шестимесячному перерыву в разработке моделей, более мощных, чем GPT-4 OpenAI, чтобы дать время для обработки общие протоколы безопасности применяться к передовому искусственному интеллекту.

Однако предупреждение о рисках, создаваемых «все более мощным цифровым разумом, который никто, даже их создатели, не может достоверно понять, предсказать или контролировать», убеждает не всех инсайдеров. Некоторые специализированные издания, такие как >, подозревают, что предприниматели, занятые в сфере ИИ, выдумывают такие апокалиптические сценарии.

Согласно специализированному сайту, указание пальцем на будущие опасности отвлекает внимание от нынешних искажений, среди которых «свободное использование защищенных авторским правом инструментов данных для обучения систем искусственного интеллекта без разрешения или согласия (или оплаты); систематический сбор персональных данных в Интернете в нарушение конфиденциальности людей; отсутствие прозрачности со стороны гигантов ИИ в отношении данных, используемых для обучения этих инструментов».