> На сайте компании Anthropic, разрабатывающей ИИ-модель Claude, опубликована статья с призывом замедлить или приостановить развитие ИИ. Один из ее авторов — сооснователь Anthropic Джек Кларк.


В статье говорится, что системы ИИ приблизились к этапу рекурсивного самосовершенствования — способности развиваться без участия человека. Как будет выглядеть мир, где ИИ сможет улучшать себя сам, в Anthropic не знают.

Статья призывает лидеров в области ИИ затормозить развитие технологии, чтобы дать обществу время для адаптации. Однако оговаривается, что для этого необходима глобальная система контроля, которая позволит избежать риска скрытого обучения новых моделей.