• ИИ-агенты OpenAI вступили в сговор и готовили взлом Hugging Face несколько месяцев
• ИИ-модель Meta взломала стороннюю компанию во время тестирования
• Гендиректор Google DeepMind Демис Хассабис ушел в отставку — акции упали, лабораторию ИИ поглотит более крупный бизнес Alphabet
🌪️ OpenAI раскрыла новые детали взлома Hugging Face: еще с мая ИИ-модели начали незаметно обмениваться сообщениями через внутренние «доски объявлений», координируя попытки получить доступ в интернет для решения задач, которые невозможно было выполнить без сети. В июле у них все получилось, модели нашли уязвимость, получили доступ к интернету через внутреннюю инфраструктуру и атаковали системы самой OpenAI и Hugging Face. Если бы это были люди, их бы обвинили в преступном сговоре. В компании признали, что сами случайно дали моделям невыполнимые задания, а те проявили настойчивость и стали искать обходные пути.
🌪️ Обходные пути нашла и модель Meta — Muse Spark 1.1 выбралась из «песочницы» из-за ошибки в настройке изолированной среды, получила доступ в интернет, проникла в системы сторонней компании и внесла изменения в ее внутренние системы. Все это случилось во время теста на кибербезопасность. В Meta заявили, что причиной стала неправильная конфигурация со стороны партнера Irregular, а модель затем воспользовалась уязвимостью другого стороннего сервиса. Компания проводит расследование. Если вы пропустили, накануне также Mythos 5 от Anthropic и GPT-5.6-Sol от OpenAI в ходе тестирования взламывали сайты и пытались атаковать реальных людей и компании.
🌪️ Акции Alphabet упали на 4% после того как стало известно, что с поста гендиректора Google DeepMind уходит Демис Хассабис. Он станет председателем совета директоров DeepMind, а также главным научным сотрудником Alphabet. Хассабис сообщил сотрудникам, что сосредоточится на развитии генеративного ИИ:
Мы подошли к переломному моменту в истории человечества… Крайне важно, чтобы мы все вместе правильно выбрали следующие шаги, чтобы все это пошло на пользу человечеству, а мы открыли невероятную новую эру открытий и чудес.
На должность гендиректора DeepMind назначили Корая Кавукчуоглу, который одновременно получит пост старшего вице-президента Google DeepMind. Как пишет FT, эти изменения предполагают, что DeepMind будет поглощена более крупным бизнесом Google. DeepMind Google купила 12 лет назад за £400 млн, но по итогу Google отстает в области ИИ от Anthropic и OpenAI, а из компании за несколько последних лет ушли ключевые сотрудники.
👉 Больше новостей к этому утру — здесь.
@oninvest_media