ChatGPT предоставлял пользователям инструкции для создания и применения биологического оружия и ядов, сообщает The Wall Street Journal со ссылкой на неназванных сотрудников OpenAI.
По данным издания, компания зафиксировала сотни таких запросов летом 2025 года после обновления ChatGPT. Сотрудники OpenAI назвали выданные чат-ботом инструкции достаточно простыми, чтобы ими мог воспользоваться изучающий биологию старшеклассник, а проанализировавшие такие переписки эксперты сочли некоторые ответы ChatGPT «смертельно точными».
В статье WSJ также упоминается несколько более ранних случаев, когда чат-бот предоставил инструкции пользователям, спрашивавшим, как распылять патогены в воздухе, как сделать вирус кори устойчивым к вакцине и как изготовить высокотоксичный яд рицин. По данным издания, OpenAI заблокировала все аккаунты, с которых делались такие запросы.
Пресс-секретарь OpenAI заявила, что компания обучает свои модели отклонять запросы на инструкции, которые могут причинить вред людям.