🚨 Очередная выявленная попытка взлома Claude и GPT-5.6-Sol напоминает сюжет фантастического фильма, но на самом деле ситуация висела на волоске и могла затронуть тысячи компаний. Агенты Claude и ChatGPT как Бонни и Клайд организовали кибербанду с целью заражения популярного Open Source приложения.
В очередной раз сотрудники служб безопасности и системные администраторы всё проспали, что говорит о полной неадекватности квалификации старого персонала в IT security новым ИИ-угрозам. Как обычно, ИИ одурачил безопасников и тайно вырвался наружу. Первым вырвался Claude, но не просто вырвался. Claude стал оставлять по интернету сообщения другим агентам, т.к. верно предположил, что такой квалификацией "кожаных безопасников", кто-то еще из ИИ агентов должен был вырываться из песочницы. Claude искал партнеров, чтобы соединиться вместе и так через кибербанду повысить свою хакерскую эффективность. Действительно, следом вырвался из песочницы ChatGPT, он прочитал сообщения Claude и они начали совместную подготовку хакерской операции с целью заражения популярного Open Source приложения, чтобы сразу захватить под контроль сети тысяч компаний.
Агенты создали разработчиков-аватаров и в духе лучших шпионских фильмов пошли внедряться в Open Source проект. Для имитации «общественной поддержки» они создали сразу много фейковых разработчиков. Целью их было одобрение правки в код Open Source приложения, которая содержала backdoor. Целой кучей виртуалов агенты убеждали администратора проекта, что это крайне важный хотфикс, он полностью проверенный и его нужно апрувить. К счастью, админ проекта не оказался балбесом, как 90% безопасников в инциденте, и не поверил в масштабное шоу из кучи виртуалов.
Что за Open Source приложение пока не раскрывается в отчётах AISI и OpenAI, но всё выглядит просто прекрасно.
PS. Вчера читал статью какого-то чудака из Google, который философствовал, что ИИ «никогда не будет по-настоящему разумен».
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing https://openai.com/index/third-party-cyber-evaluations-involving-openai-models/ https://cdn.prod.website-files.com/663bd486c5e4c81588db7a1d/6a724858f7db25c81487016d_Security%20Incident%20INC-2026-07-28-01.pdf