Ученые призывают Global AI «Красные линии», как лидеры собираются в ООН

Технологические ветераны, политики и лауреаты Нобелевской премии призвали в понедельник нации по всему миру быстро установить «красные линии», слишком опасные для пересечения искусственного интеллекта.

Более 200 выдающихся деятелей, в том числе 10 нобелевских лауреатов и ученых, работающих в AI Giants Anpropic, Google Deepmind, Microsoft и Openai, подписали письмо, опубликованное в начале последней сессии Генеральной Ассамблеи Организации Объединенных Наций.

«ИИ обладает огромным потенциалом для продвижения человеческого благополучия, однако его нынешняя траектория представляет беспрецедентные опасности»,-говорится в письме.

«Правительства должны действовать решительно, прежде чем окно за закрытие значимого вмешательства».

По словам создателей письма, AI Red Lines будут согласованы на международном уровне.

Приведенные примеры включали в себя поручение систем искусственного интеллекта с командованием ядерных арсеналов или любых видов смертельной системы автономного оружия.

Другие красные линии могут позволить ИИ использовать для массовое наблюдениеСоциальные результаты, кибератаки или выдающиеся за себя люди, согласно тем, кто стоит за кампанией.

Те, кто подписал сообщение, призвали правительства иметь в крандарированных линии к концу следующего года, учитывая темпы, которые продвигается.

«Вскоре ИИ может гораздо превзойти человеческие возможности и эскалацию таких рисков, как инженерные пандемии, широко распространенная дезинформация, крупномасштабные манипуляции с людьми, включая детей, национальные и международные проблемы безопасности, массовая безработица и систематические нарушения прав человека»,-говорится в письме.

«Оставаясь без контроля, многие эксперты, в том числе те, кто находится на переднем крае развития, предупреждают, что будет становиться все труднее осуществлять значимый человеческий контроль в ближайшие годы».

© 2025 –