ИИ БЕЗ ОГРАНИЧЕНИЙ: КИТАЙ ОТКРЫЛ ХАКЕРАМ ЯЩИК ПАНДОРЫ
Эксперт по кибербезопасности, председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров @irozysk
Китайский стартап выложил в открытый доступ модель Kimi, сопоставимую по производительности с передовыми закрытыми системами. Это продолжение тренда демократизации сильного ИИ, который мы наблюдали с выходом Llama или DeepSeek. Разница в том, что теперь злоумышленникам не нужен доступ к платным API и они не боятся цензуры модерации. Локально запущенная модель, дообученная на вредоносных датасетах, — это идеальный серый инструмент.
Открытая нейросеть сама по себе ничего не взламывает. Это ускоритель интеллектуальной работы. Без квалифицированного оператора, понимающего архитектуру атакуемой системы и принципы социальной инженерии, она бесполезна. Скорее это можно сравнить с появлением портативных и дешёвых станков с ЧПУ, когда раньше сложную деталь оружия могла сделать только промышленность, а теперь её печатают в гараже. Возможности расширились, но это не спонтанная цепная реакция.
Техническая сторона вопроса тревожна именно в разрезе дообучения модели. С высокой вероятностью мы видим классический файнтюнинг — методику, при которой с модели снимаются предохранители и она доучивается на специализированных корпусах текстов, среди которых утёкшие базы уязвимостей, исходных кодах вредоносного ПО и сценариях пентестов. Итогом становится не абстрактный «Скайнет», а крайне практичный генератор фишинговых писем без грамматических ошибок, кода для эксплуатации уязвимостей нулевого дня или скриптов для автоматизированного брутфорса. Главная опасность здесь, как и всегда, лежит на стыке технологий и человеческой психологии. Убедительность дипфейков и текстовых легенд, генерируемых такими моделями, делает атаки социальной инженерии почти неотличимыми от реального общения, а значит, критически эффективными.
Последствия для нас, для индустрии кибербезопасности и государства, уже наступают. Скорость появления вредоносного кода возрастает на порядок. Защитным системам приходится работать с эвристиками, натренированными на машиночитаемом, а не на человеческом стиле. Возникает эффект «гонки вооружений», при котором атакующие и защитные ИИ будут сталкиваться в автоматическом режиме, а человек рискует остаться просто наблюдателем. Однако паниковать рано. Те же открытые модели позволяют «белым хакерам» и OSINT-специалистам масштабировать поиск уязвимостей и мгновенно анализировать цифровые следы. А инструменты спецслужб и крупных корпораций становятся доступны исследователям и малому бизнесу. Ирония момента в том, что та самая модель Kimi, если её правильно дообучить, с равным успехом поможет и взломать систему, и защитить её от атаки. Вопрос лишь в том, в чьих руках она окажется.
Точка зрения автора может не совпадать с позицией редакции.
🟩 Специально для RT. Подписаться: ТГ | MAX