1754336737
2025-08-04 19:22:00
Google AI-Hunter только что сообщил о своей первой партии уязвимостей безопасности.
Хизер Адкинс, вице -президент Google по безопасности, объявлено В понедельник, что его исследователь уязвимости на основе LLM Big Sleep обнаружил, и сообщил о 20 недостатках в различных популярных программных программ с открытым исходным кодом.
Адкинс сказал, что Big Sleep, который разрабатывается Департаментом ИИ DeepMind, а также элитной командой Hackers Project Zero, сообщил о своей первой в истории уязвимостив основном в программном обеспечении с открытым исходным кодом, таким как аудио и видео библиотека FFMPEG и редактирование изображений ImageMagick.
Учитывая, что уязвимости еще не фиксированы, у нас нет подробностей их влияния или серьезности, как Google еще не хочет предоставлять подробностикоторая является стандартной политикой при ожидании исправления ошибок. Но простой факт, что большой сон обнаружил, что эти уязвимости важен, так как это показывает, что эти инструменты начинают получать реальные результаты, даже если в этом случае был человек.
«Чтобы обеспечить высокое качество и действенное отчеты, у нас есть эксперт -эксперт в цикле перед отчетностью, но каждая уязвимость была найдена и воспроизведена агентом искусственного интеллекта без вмешательства человека», – заявил представитель Google Кимберли Самра.
Королевский Хансен, вице -президент Google по технике инженерии, написал на х что результаты демонстрируют «новую границу в автоматизированном обнаружении уязвимости».
Инструменты, способствующие LLM, которые могут искать и найти уязвимости, уже являются реальностью. Кроме большого сна, есть Рансибили Xbow, среди других.
Мероприятие >
Сан -Франциско | 27-29 октября 2025 года
Xbow получил заголовки после он достиг вершины одного из таблиц лидеров США на платформе Bug Bounty Hackerone. Важно отметить, что в большинстве случаев эти отчеты имеют человека в какой-то момент процесса, чтобы убедиться, что охотник за ошибками с AI обнаружил законную уязвимость, как и в случае с большим соном.
VLAD Ionescu, соучредитель и директор по технологиям Runsybil, стартапу, который разрабатывает охотников за ошибками на основе искусственного интеллекта, сказал >, что Big Sleep-это «законный» проект, учитывая, что у него есть «хороший дизайн, люди, стоящие за ним, знают, что они делают, Project Zero обладает ошибкой, а Deepmind обладает огнестойкой и токенсом, чтобы сделать ее».
Очевидно, что с этими инструментами есть много обещаний, но также и значительные недостатки. Несколько человек, которые поддерживают различные программные проекты, жаловались на отчеты об ошибках, которые на самом деле являются галлюцинациями, причем некоторые из них называют их щедростью, эквивалентным для AI Slop.
#Google #сообщает #что #его #базовый #Hunter #на #основе #искусственного #интеллекта #обнаружил #уязвимостей #безопасности
Продолжение темы
