GPU & AI chips — June 2026

Tldr: on-device AI lab, от фаундеров Prisma / Reface (100+ mln users), $10 mln raised, fully remote. 2 роли - ML Research Engineer, Inference Engineer

Про компанию:

Mirai — AI lab, разрабатывающая фундаментальную модель и инфраструктуру инференса для AI на устройствах пользователя (on-device AI), что позволяет запускать LLM локально с ультранизкой задержкой.

📱Сегодня экономика AI плохо масштабируется через облачные вычисления и GPU-инференс. Со временем значительная часть AI-нагрузок переместится с серверов непосредственно на устройства пользователей.

🔝Компания основана фаундерами Prisma labs (одними из пионеров on-device ML) и Reface (100+ млн пользователей), а также привлекла $10 млн в рамках seed-раунда.

Fully remote, distributed-команда, английский — основной рабочий язык.

Позиция - ML Research Engineer

Основные направления: — quantization — speculative decoding — optimization для LLM inference — NLP / transformer research

Что предстоит делать: — исследовать и внедрять новые подходы к оптимизации моделей — читать и адаптировать research papers по NLP / LLM systems — писать production-quality ML systems

Нам интересны кандидаты с опытом в: — Deep Learning / NLP / transformers / LLMs — ML research / publications / open-source projects — training, fine-tuning или оптимизации моделей

Будет плюсом: — research labs / Kaggle / ICPC / олимпиады — опыт реализации paper → production pipeline

Контакт - @ann_rish

Позиция - Inference Engineer

Обязанности — Разрабатывать и оптимизировать основной inference stack, включая низкоуровневые compute kernels. — Добавлять поддержку новых model architectures, modalities, а также различных hardware/software backends. — Разрабатывать продвинутые возможности инференса, такие как KV cache paging, continuous batching, quantization. — Создавать tooling вокруг inference stack, чтобы систему было проще тестировать, понимать и надежно выводить в продакшен.

Требования — Сильный опыт в low-level systems engineering — вы должны понимать, как работают компьютеры на уровне ниже прикладного программирования (application-level programming). — Уверенное владение одним из systems languages: Rust, C, C++ или аналогичными.

Будет плюсом — Качественные open-source contributions. — Опыт написания высокопроизводительных GPU kernels или работы с Metal, Vulkan, CUDA и аналогичными технологиями.

Контакт - @armantg

⌛️ Windows Sandbox: встроенная песочница в Windows 11   В Windows 11 доступен встроенный механизм Песочницы (Windows Sandbox), позволяющий на основе технологии контейнеризации запустить в изолированной среде легковесную виртуальную машину. Контейнер этой виртуальной машины создается на базе ядра хостовой Windows, в результате чего он занимает меньше места на диске и использует меньше ресурсов по сравнению с классической ВМ.

✅ В изолированной среде песочницы можно запускать сомнительное и неизвестное ПО, тестировать поведение программ и отлаживать скрипты развертывания в чистой среде. В песочнице уже есть доступ к Интернету через виртуальный коммутатор Hyper-V с NAT, который автоматически создается в основной ОС.

⚠️ При закрытии Sandbox все внесенные изменения не сохраняются, а при следующем запуске песочница снова запускается в чистом виде.   Включить компонент Windows Sandbox можно командой: Enable-WindowsOptionalFeature -FeatureName "Containers-DisposableClientVM" –Online 📚 С окном песочницы работаем также как с любым сеансом RDP, работает буфер обмена, можно смонтировать в песочницу локальные папки, дать доступ в GPU.

✅ Одновременно может быть запущен только один контейнер с песочницей. Но с помощью конфигурационных файлов WSB можно создать несколько конфигураций песочниц с разным окружением. В статье приведен пример WSB файла и скриптов для автоматической установки клиента WinGet и необходимого набора софта при старте Песочницы.   Песочница Windows 11 (Sandbox): как включить и настроить

NVIDIA официально ворвалась в мир «ноутбуков для ИИ»!

NVIDIA представила RTX Spark Superchip, новый ARM‑чип, который превращает обычные Windows‑ноутбуки в машины для локального запуска больших моделей и ИИ‑агентов.

RTX Spark — это суперчип на базе архитектуры Grace Blackwell: в одном корпусе объединены 20‑ядерный ARM‑процессор NVIDIA Grace и GPU поколения Blackwell RTX. Чип нацелен на тонкие ноутбуки и компактные десктопы с Windows on Arm, но с возможностями «маленькой ИИ‑станции».

Железо: - CPU: 20 ARM‑ядер Grace, оптимизированных под многопоточность и энергэффективность. - GPU: Blackwell RTX с 6144 CUDA‑ядрами и тензорными ядрами 5‑го поколения, с поддержкой RTX, DLSS, трассировки лучей и всего CUDA‑стека. - Память: до 128 ГБ LPDDR5X единой памяти (CPU и GPU делят общий пул), пропускная способность порядка сотен ГБ/с, связь CPU+GPU через NVLink‑C2C. - ИИ‑производительность: до 1 PFLOP при вычислениях в FP4 за счёт новых Tensor Cores и формата NVFP4.

«И кому нужна эта груда аббревиатур и текста?» - скажете вы

ИИ‑разработчикам и продактам ☝️

1. Локальный ИИ без обязательного облака: персональные ИИ‑агенты, анализ локальных данных, приватные ассистенты прямо на ноуте - сервер практически не нужен для тестов и выполнения задач.

2. Новые сценарии для софта: оффлайн‑LLM, умные IDE, локальные RAG‑системы, ассистенты для бизнеса.

Какие модели реально запустить локально с таким процессором?

Заявленный уровень — до ~120 млрд параметров на одном ноутбуке за счёт 128 ГБ unified memory и FP4‑квантования.

Комфортная зона: - 8–30B моделей — в FP8/FP16 с хорошей скоростью: персональные ассистенты, код‑помощники, чат‑боты.[7][8] - 70–120B — в FP4/INT4 с оптимизацией под TensorRT‑LLM: более «умные» агенты, сложные reasoning‑задачи, тонкие дообучения под домен.

Короче говоря, я думаю, что локальную GPT-OSS-120B точно можно будет просто на ноуте запустить) По крайней мере, Qwen на 70B точно запустим🔥

Первые ноутбуки и десктопы на RTX Spark обещаны к осени 2026 года, партнёры - крупные OEM: от Dell и Lenovo до Microsoft (Surface) и других

В общем, жду! А вы? 🫵

This fall, Confidential Computing ships at rack scale. 72 GPUs. One TEE.

NVIDIA announced Vera Rubin back in March. Now it's ramping to production.

Currently, each server forms its own TEE boundary: up to 8 GPUs, 2.3 TB shared memory. Vera Rubin extends this to the entire rack – 72 GPUs, 20.7 TB of shared memory in one TEE. Imagine what model will fit in there!

"Everything across this is secure because the AI model is so precious. This is the reason why this entire system obeys confidential computing." – Jensen Huang, NVIDIA CEO, GTC Taipei 2026

What can you do while waiting? We recently updated our GPU + CPU TEE requirements guide, covering all available GPU TEE-capable SKUs, from Hopper to Blackwell, with compatibility details for Intel TDX and AMD SEV-SNP – and what is not TEE-capable as well.

Check them out and start deploying Confidential AI today. With Super Swarm – no TEE expertise required.

👉 NVIDIA Press Release 👉 GPU+CPU TEE requirements