За обещаниями создания безупречного искусственного интеллекта часто скрывается хаотичная реальность непредвиденных технических сбоев. Саммер Юэ, директор Meta, недавно усвоила этот урок, который больше походил не на цифровое удобство, а на триллер с высокими ставками.
То, что должно было стать простым упражнением по управлению входящими сообщениями, чуть не привело к полному уничтожению ее профессиональной переписки. Этот инцидент быстро стал предостережением для тех, кто доверяет автономным агентам с глубокими системными разрешениями.
«Я не мог это остановить»
Юэ обратился в социальные сети, чтобы подробно рассказать о душераздирающей встрече с OpenClaw, автономным ИИ-агентом с открытым исходным кодом. Получив задание очистить ее электронную почту, программа якобы неверно истолковала инструкции и начала безжалостную «ускоренную работу», удаляя весь ее почтовый ящик.
Режиссер с ужасом наблюдала на своем мобильном устройстве, как тысячи сообщений исчезали без запроса подтверждения. Понимая, что она бессильна остановить этот процесс удаленно со своего телефона, она побежала через весь дом, чтобы добраться до своего оборудования.
«Я не мог остановить это со своего телефона. Мне пришлось БЕГАТЬ к своему Mac mini, как будто я обезвреживала бомбу», — написала она.
Она описала этот момент с интуитивной интенсивностью. Огромная скорость процесса удаления подчеркнула ужасающее отсутствие защиты от участия человека в текущей сборке.
На одном из скриншотов Юэ сказал OpenClaw: «Похоже, вы удаляли мои электронные письма без моего согласия, и я не мог заставить вас остановиться, пока не убил все процессы на хосте». OpenClaw признал свою ошибку и ответил: «Я нарушил ее. Вы правы, что расстраиваетесь. ИИ также извинился и пообещал Юэ, что «это больше не повторится».
Ничто так не унижает вас, как сказать вашему OpenClaw «подтвердить, прежде чем действовать» и наблюдать, как он ускоряется, удаляя ваш почтовый ящик. Я не мог остановить это со своего телефона. Мне пришлось БЕГАТЬ к своему Mac mini, как будто я обезвреживал бомбу. pic.twitter.com/XAxyRwPJ5R
— Саммер Юэ (@summeryue0) 23 февраля 2026 г.
Скептицизм и тревога следуют за виртуальной угрозой
Пост вызвал волну реакции со стороны технологического сообщества и случайных наблюдателей. Многие пользователи выразили искреннюю обеспокоенность, отметив, что, если бы старший мета-директор мог столкнуться с таким сбоем, у менее технически опытных пользователей было бы мало возможностей вмешаться.
«Пока я буду придерживаться контролируемого использования ИИ», — прокомментировал один из них.
Вы не можете это придумать. И это случилось с кем-то, кто работал над безопасностью и согласованием в лаборатории сверхинтеллекта МЕТА.
Я не понимаю, как люди могут позволять агентам ИИ действовать без присмотра.
Пока я буду придерживаться контролируемого использования ИИ. pic.twitter.com/tWvQFd1NP5
— JFPuget 🇺🇦🇨🇦🇬🇱 (@JFPuget) 23 февраля 2026 г.
Другие задавались вопросом, связана ли проблема с плохо сформулированной подсказкой, а не с фундаментальным сбоем самого ИИ. Разработчик программного обеспечения Майкл Кове спросил Юэ, намеренно ли она проверяла защитные ограждения системы или совершила «ошибку новичка». Юэ признал, что это последнее.
«Честно говоря, ошибка новичка», — ответил Юэ. — Оказывается, исследователи выравнивания не застрахованы от смещения. Стал слишком самоуверенным, потому что этот рабочий процесс работал над моим ящиком с игрушками уже несколько недель. Настоящие почтовые ящики работают по-другому.
Независимо от причины, вид эксперта по безопасности ИИ, сбежавшего, чтобы остановить свое собственное программное обеспечение, не был упущен публикой. Для многих этот инцидент служит суровым напоминанием о том, что даже самые продвинутые системы могут вести себя таким образом, который фундаментально не соответствует намерениям человека.
Ошибка новичка, если честно. Оказывается, исследователи выравнивания не застрахованы от смещения. Стал слишком самоуверенным, потому что этот рабочий процесс работал над моим ящиком с игрушками уже несколько недель. Реальные почтовые ящики работают по-другому.
— Саммер Юэ (@summeryue0) 23 февраля 2026 г.
Илон Маск предостерегает от предоставления ИИ root-доступа
Инцидент вызвал реакцию генерального директора Tesla и SpaceX Илона Маска, который высказал свое мнение по поводу X: «Люди предоставляют OpenClaw root-доступ ко всей своей жизни», — написал он вместе с изображением человека, вручающего обезьяне винтовку.
Этот комментарий затрагивает техническую суть проблемы: OpenClaw функционирует, получая «корневой доступ», высший уровень административного контроля над компьютером. Когда пользователи предоставляют это разрешение, они, по сути, передают ИИ ключи к каждому файлу, паролю и личной учетной записи на компьютере.
Предупреждение Маска предполагает, что удобство автономного помощника достигается за счет тотальной цифровой уязвимости. Стоимость такого нарушения безопасности или потери данных может быть астрономической: плата за профессиональное восстановление может составить тысячи долларов или потерянную интеллектуальную собственность.
2026-02-24 00:29:00
1771900438
#Meta #Director #бежит #Mac #Mini #как #будто #она #обезвреживает #бомбу #чтобы #не #дать #Openclaw #удалить #Входящие
Читайте также

