Сооснователь Anthropic призвал вывести контроль над ИИ из рук Big Tech
Выступая в Ватикане на презентации первой энциклики Папы Льва XIV, посвящённой ИИ, он подчеркнул необходимость внешнего контроля со стороны государств, общественных организаций и религиозных институтов.
Ола предупредил, что искусственный интеллект может привести к масштабному вытеснению людей с рынка труда. По его словам, автоматизация способна затронуть миллионы профессий, а поддержка людей, потерявших работу из-за ИИ, станет «моральной обязанностью исторического масштаба». Он отметил, что технологические компании находятся под постоянным давлением инвесторов, конкуренции и геополитики, поэтому не могут самостоятельно выступать единственными арбитрами в вопросах развития AI.
Главной темой мероприятия стала новая энциклика Папы Льва XIV под названием «Magnifica Humanitas», в которой понтифик потребовал усилить международное регулирование ИИ. В документе говорится о рисках распространения дезинформации, усиления цифрового контроля и появления автономного оружия, способного принимать решения без участия человека. Папа также сравнил текущую AI-революцию с промышленной революцией прошлого, предупредив о возможных социальных потрясениях.
Ола заявил, что особенно важно привлекать к обсуждению будущего ИИ людей за пределами Кремниевой долины. По его мнению, вопросы этики, справедливого распределения выгод от AI и защиты общества не должны определяться исключительно коммерческими интересами корпораций. Он выделил три ключевые проблемы: массовую потерю рабочих мест, неравномерное распределение преимуществ ИИ между странами и сложность понимания того, как современные модели принимают решения.
На фоне стремительного роста AI-индустрии подобные заявления звучат всё чаще. Крупнейшие компании мира продолжают вкладывать десятки миллиардов долларов в развитие генеративного ИИ, а правительства пытаются выработать правила регулирования. В Европе уже обсуждаются более жёсткие ограничения для AI-систем, а Ватикан фактически впервые настолько активно вмешался в глобальную технологическую дискуссию.
Anthropic считается одной из самых влиятельных AI-компаний наряду с OpenAI и Google. Компания была основана бывшими сотрудниками OpenAI и известна тем, что делает акцент на безопасности искусственного интеллекта. При этом даже внутри самой индустрии продолжаются споры о том, насколько быстро следует развивать мощные AI-модели и кто должен контролировать их использование.