♋️Разработчики ⭕️ ChatGPT и 🈁Claude предлагают властям способ притормозить гонку ИИ
Специалисты-разработчики ИИ-моделей поддержали открытое письмо с просьбой к правительству 🇺🇸США найти способ замедлить развитие технологий, если оно станет слишком быстрым. Под петицией поставили подписи сотни сотрудников компаний OpenAI, Anthropic, Google и Meta*. Авторы документа предупреждают, что индустрия близка к автоматизации исследований в сфере ИИ, и это может привести к тому, что развитие технологий выйдет из-под контроля человека.
Разработчики опасаются ситуации, когда ИИ-системы смогут самостоятельно улучшать себя. Это создаст риск резкого ускорения прогресса, который опередит возможности людей по безопасному контролю над моделями. К началу 2028 года OpenAI планирует передать значительную часть исследовательских задач автоматизированным ИИ-системам.
Авторы петиции просят правительство 🇺🇸США поддержать международные дипломатические усилия, чтобы создать технические и юридические инструменты для контроля темпов разработки. В отличие от прошлых петиций, появившихся после 2022 года, этот документ получил официальное одобрение топовых руководителей компаний OpenAI, Meta и Google. Генеральный директор OpenAI Сэм Альтман хоть и не подписал петицию лично, но в подкасте обтекаемо заявил, что регулирование темпов разработки может потребоваться.
Пока разработчики пытаются притормозить развитие ИИ из-за риска потери рабочих мест, Сэм Альтман, отвечая на вопрос журналистов, признал вероятность того, что компания могла взломать и другие системы (не только Hugging Face*). На уточняющий вопрос о расследовании этого факта глава OpenAI предпочёл не отвечать и ограничился многозначительным словом «спасибо».
👆Закрытые консультации прошли за несколько дней до истечения 60-дневного срока, отведённого президентом США Дональдом Трампом федеральным агентствам для разработки критериев оценки передовых ИИ-моделей. В рамках визита Сэм Альтман ознакомился с предлагаемым проектом и запланировал встречу с главой аппарата Белого дома Сьюзи Уайлс. Отвечая на вопросы о темпах развития технологий, Сэм Альтман отверг термин «замедление», но подчёркивал необходимость регулировать скорость внедрения по мере роста возможностей ИИ-моделей.
Президент США Дональд Трамп заявил в Овальном кабинете, что администрация рассматривает меры контроля для сферы ИИ. При этом он подчёркивал, что 🇺🇸США не должны уступать 🇨🇳Китаю, поскольку победитель в гонке ИИ-технологий получит определяющее преимущество. --------------------------
❗️ Hugging Face опубликовали подробный разбор инцидента тут: https://huggingface.co/blog/agent-intrusion-technical-timeline
*Деятельность компании Meta (владеет Facebook, Instagram, WhatsApp) запрещена в РФ и признана 🏴☠️экстремистской.
✋ @Russian_OSINT