Несколько мыслей из сегодняшнего письма визионера и техно-стратега Питера Диамандиса.
Как меняется наш смысл жизни прямо сейчас - из-за ИИ?
▫️ Раньше мы спрашивали: что могут делать машины? Теперь мы должны спросить: ДЛЯ ЧЕГО люди должны быть?
▫️ Если машины могут писать, рассуждать, диагностировать, оптимизировать и убеждать, то человеческая ценность не может основываться на продуктивности. Смысл жизни не может быть "я выдаю больше, чем машина".
Что происходит с работой?
▫️ Наличие "работы" — современное изобретение времен промышленной революции. Исторически у большинства людей не было ничего отдаленно сравнимого.
▫️ Если уж на то пошло, мы возвращаемся к состоянию по умолчанию, где каждый сам определяет свое будущее.
Ватикан против, буддисты - за
▫️ Ватикан обозначил первую крупную религиозную позицию ПРОТИВ приписывания черт личности к ИИ. В послании Папы Льва XIV утверждается, что ИИ не находятся на сравнимом моральном уровне с людьми и не обладают внутренней жизнью или сознанием.
▫️ Это иронично противоречит Anthropic, которая занята разработкой «документов о душе» (soul documents) для своих моделей.
▫️ Буддийские монахи против католической доктрины: буддийские ордена в Южной Корее посвящают воплощенных ИИ в монахи, идя в прямо противоположном направлении. Ватикан, как полагают, может оказаться на неправильной стороне истории здесь, как и с гелиоцентризмом Коперника и Галилея.
Правительства выбирают скорость над безопасностью
▫️ Салим Исмаил (ещё один футуролог и стратег) прямолинеен: "Вы не можете замедлить это. Если вы замедлите это, другие люди улетят вперед. Это могло бы стать философским хребтом регулирования в стиле ЕС, но это не сработает".
▫️ Китайские передовые модели могут отставать от западных всего на три месяца. Задержка в 90 дней равносильна передаче лидерства Китаю.
▫️ В Белом доме был готов указ, требующий 90-дневного государственного рассмотрения моделей ИИ перед публичным выпуском. Церемония подписания была уже запланирована… Но затем Илон, Цукерберг и Дэвид Сакс резко выступили против, назвав это "думерским регулированием". Трамп отозвал его за несколько часов до подписания.
Адаптивное управление
▫️ Только ИИ может поспевать за ИИ. Салим точно подметил: "Вы не можете иметь линейное регулирование экспоненциальной технологии. Вам нужны ограждения, которые движутся со скоростью программного обеспечения, а не комитеты, которые движутся со скоростью факса".
▫️ Адаптивное управление: Салим выступал за аудиты в реальном времени, раскрытие информации и уровни подотчетности вместо ежеквартальных заседаний комитетов. Регуляторная модель не может поспевать за циклами моделей ИИ.
Оригинал письма тут
Развивающие установки Диамандиса тут
