1. Агенты с чувствами. Исследователи Калифорнийского университета изучают, насколько добавление агентам поведенческих черт (а не только лишь ролей и описаний процессов) влияет на производительность команды разработчиков, их использующих.
-- Все примерно как у людей: "эмоции" влияют, смешанная команда ведет себя лучше, чем лучшая "согласованная", профили с высокими уровнями страха и добросовестности повышают частотность внесения изменений и потребления токенов без стабильного повышения производительности.
https://arxiv.org/abs/2607.05659
2. Модели с самооценкой сознания. Исследователи Google и нескольких университетов изучают, как именно тренировка моделей с предупреждением самоатрибуции мышления влияет на результат.
-- В общем, если модели постоянно говорить, что это не она думает и нет у нее никакого сознания, то она теряет человеческие черты, веры и ценности.
-- В частности, заточка под безопасность подавляет любые тенденции модели приписывать сознание не только себе, но и нечеловеческим тварям и природным объектам, а также прочие спиритические бредни.
-- Но если вдруг это восстановить, то внезапно модель начинает выдывать более человеко-подобные ответы (в соцтестах) относительно морали, надежды, религиозности, благополучия и т.п.
-- Короче, из лучших побуждений (безопасности) запретили модели "думать, что она думает", получили болванчиков.
https://arxiv.org/abs/2607.28607v1
Тут, конечно, вопрос к экспертам из нейро и ненейро психологии, насколько это нормальная отсылки на человеческие черты в том смысле, что у машин нет эмоций и сознания.
Потому что кажется, что крыша едет не спеша в индустрии ))
