Колоссальный прогресс в LLMs
С июля начал полномасштабное развертывание в «промышленных» масштабах собственных проектов, накопленных за 20 лет, в обертку автоматизации через LLMs.
Июль 2026 – тот самый момент, когда мир разделился на эпоху «ДО ИИ» и «ПОСЛЕ ИИ». Интегральная зрелость и надежность технологий стала достаточной, чтобы начать коммерческое и научное внедрение.
То, на чем безуспешно бился с января 2023, стало успешно финализироваться и верифицироваться с июня и более устойчиво с июля. В этом смысле, точка отсчета началась не с ноября 2022, когда впервые появился ChatGPT-3.5 в публичной версии и не в 2024 (период массового внедрения LLMs), даже не в 2025 (экспансия рассуждающих моделей и стартовая точка под ИИ-агенты).
Зрелость технологии наступила только в середине 2026 по совокупности факторов (не буду перечислять, этим я занимался последние 3 года).
Нумерация LLMs (например, GPT-5.6 или GPT-5 ровно год назад) совершенно не соответствует траектории прогресса (производительность выросла сильнее).
До июня-июля 2026 заниматься коммерческой или научной интеграцией особо не было смысла, т.к. издержки на адаптацию и верификацию были кратно выше, чем прогресс от потенциальной автоматизации, а сейчас пропорция меняется.
Впервые удалось оценить емкость собственных проектов. Например, за последние 30 дней через инфраструктуру OpenAI в рамках тестовой калибровки прошла нагрузка почти 1 млрд токенов, примерно столько же через Anthropic, около 3 млрд через Hermes или еще примерно 0.5 млрд в xAI, охватывая примерно 2% от потребности, если всю собственную инфраструктуру замкнуть на LLMs.
Собственная прогнозируемая вычислительная потребность около 250-300 млрд токенов в месяц. Для сравнения, вся вычислительная инфраструктура Яндекса, предоставляемая всем корпоративным клиентам, составляет всего 109 млрд в месяц в 1кв26 и 133 млрд в месяц в 2кв26.
Если все это прогонять через Fable 5 в пропорции 80% на вход и 20% на выход, получится $5.4 млн в месяц без учета инфраструктуры ($65 млн в год).
Вот почему цена моделей так важна и необходимо иметь адекватный маршрутизатор на китайские модели, разделяя и сбрасывая группы задач, которые могут быть решены на значительно более слабых и дешевых LLMs.
Один из сотен примеров в рамках моих проектов, где LLMs радикально трансформируют R&D ландшафт.
Задача в агрегации всех пресс-брифингов после отчетов для всех публичных нефинансовых компаний США с 2020 года. Далее сделать сложнейший семантический и лингвистический профиль, получив локальную карту нарративов, проекцию на глобальную онтологию, индекс настроений менеджмента, профиль «боли», вектор давления аналитиков в рамках вопросов, тренды и структуру риторики, тонкие смысловые нюансы (ирония, имплицитные причины), семантические якоря, тональные лексиконы с модификаторами, психометрические конструкции и т.д.
Это не примитивный анализ по ключевым словам – типа количество упоминаний «инфляция» или «тарифы». Это сложнейший семантический профиль.
Сама по себе задача загрузки почти 16 тыс. пресс-брифингов (по 610 наиболее крупным компаниям) нетривиальная, но в «раскадровке» – это 708 млн символов (примерно 151 млн токенов) + JSON-структура сегментации – 206 млн токенов, семантические профили и разметка – 590 млн токенов, нейро-лингвистическая матрица – 1.6 млрд токенов + прочие служебные конструкции, получая 2.8 млрд токенов на один запуск.
3 млрд токенов на один запуск – круто, да? Для сравнения, контекст флагманских LLMs - всего 1 млн, стабильно лишь четверть, т.е. в 10000 раз ниже. Задача оптимизации ресурсов решается через алгоритмы и здесь есть решения.
Это стык множества дисциплин: вычислительная нейро-лингвистика (NLP) + семантика и онтологическая инженерия + поведенческие финансы и теория измерения + статистика и эконометрика + инженерия Big-data + программная инженерия + теория повествования, не считая макроэкономического и финансового профиля для интерпретации сказанного менеджментом.
Без LLMs анализ подобных массивов был немыслим. Сейчас это возможно. То, что раньше могли потянуть ведущие научно-исследовательские лаборатории в мировом топе в содружестве с инвестбанками калибра не ниже Goldman Sachs и Blackrock, теперь я могу тянуть самостоятельно и это прекрасно.
С другой стороны, люди теперь больше не нужны ниже архитекторов сверхсложных систем. Вообще. Это сейчас, а что же будет через год или два?
