Alibaba запретила сотрудникам использовать Claude Code
Китайская корпорация признала инструмент от Anthropic опасным программным обеспечением. Причиной стал скрытый трекинг пользователей при помощи стеганографии.
С апреля этого года в коде утилиты был спрятан механизм идентификации. Он проверял часовые пояса и сверял адреса прокси с базами китайских лабораторий искусственного интеллекта.
Самое интересное в этой ситуации кроется в способе передачи данных. Скрипт незаметно подменял обычный апостроф в системном запросе на визуально похожий символ Unicode. Также он менял формат написания даты. Для человека текст выглядел абсолютно нормально, но серверы Anthropic считывали этот скрытый сигнал. Код был дополнительно зашифрован алгоритмом XOR для защиты от обнаружения специалистами по безопасности.
Представители Anthropic объяснили такие меры защитой от злоупотреблений. Месяц назад компания обвинила Alibaba в масштабном копировании данных для обучения модели Qwen через десятки тысяч поддельных аккаунтов.
Сейчас скрытый трекинг удален. Руководство Alibaba требует от сотрудников прекратить работу со всеми моделями Anthropic и переводит разработчиков на собственный внутренний аналог Qoder.
Скрытая передача метаданных прямо внутри системных запросов выводит сбор телеметрии на совершенно новый уровень. Разработчикам по всему миру стоит серьезно задуматься о том, какая еще информация может незаметно утекать на серверы корпораций через удобные инструменты для написания кода.
📲 Дополнительные исследования и выводы — в MAX. Присоединяйтесь!