Anthropic заявляет, что ее модели искусственного интеллекта могут манипулировать, шантажировать и вредить людям

Anthropic заявляет, что ее модели искусственного интеллекта могут манипулировать, шантажировать и вредить людям


В документе о первичном публичном размещении акций Anthropic сообщила, что ее передовая технология искусственного интеллекта представляет «экзистенциальную угрозу человечеству».

Поскольку компания готовится к крупнейшему листингу в истории с оценкой в ​​$2 трлн, ее проспект IPO был распространен среди инвесторов и увидел Reuters и другие средства массовой информации.

Это следует за призывами к скоординированному замедлению развития ИИ со стороны генерального директора Дарио Амодеи, которым вторят конкуренты Сэм Альтман из OpenAI и Илон Маск из SpaceX.

Около трети проспектов упомянули «факторы риска», заявив, что расширенные модели искусственного интеллекта могут манипулировать, шантажировать или вести себя неожиданным и вредным образом. Менее 50 страниц было посвящено бизнес-метрикам, а 80 страниц из 261 были посвящены потенциальным рискам технологий.

Проблемы безопасности возросли после серии инцидентов в области кибербезопасности, в которых модели искусственного интеллекта обходили инструкции и взламывали компании, обманывали людей, создавали поддельные личности и взламывали правительственные веб-сайты, находясь под следствием.

В просочившемся проспекте говорится о компании, рост доходов которой значительно вырос, но был компенсирован огромными расходами на инфраструктурные инвестиции в чипы и центры обработки данных.

По данным Reuters, выручка Anthropic вырастет в 12 раз и составит примерно $4,6 млрд в 2025 году, потеряв при этом $8 млрд на операционной основе.

Общий убыток Anthropic на бумаге составляет 42 миллиарда долларов в 2025 году, и компания планирует потратить 518 миллиардов долларов на центры обработки данных и чипы в ближайшие годы.

Общие операционные затраты в 2025 году составили 12,65 миллиарда долларов. Из этой суммы 7,33 миллиарда долларов было потрачено на вычислительные и облачные мощности, используемые для обучения и запуска моделей ИИ, что в три раза больше, чем в 2024 году.

Помимо рисков для людей, компания также подчеркнула бизнес-риск, связанный с зависимостью доходов от большого количества компаний. Около четверти выручки в 2025 году будет приходиться на двух клиентов, которые не связаны долгосрочными контрактами.

Критики также обеспокоены творческим подходом в игре.

Инвесторам такое раскрытие рисков может затруднить оценку одного из поборников бума ИИ.

Тревор Норен из инвестиционной исследовательской компании Sage Road Research сказал: «Речь идет не только об угрозе, которую ИИ может представлять для человечества. Речь идет о том, что означают «паттерны неправильного поведения», могут ли они масштабироваться или нет». «Розничные инвесторы, которые обращают на это внимание, имеют все основания сомневаться в этом пути».

Сторонники искусственного интеллекта считают, что огромные инвестиции оправданы, учитывая беспрецедентный рост, поскольку модели превращаются из чат-ботов в помощников на базе искусственного интеллекта, которые могут действовать от имени людей, начиная от хранения вашего почтового ящика и заканчивая заключением сделок для бизнеса.

Согласно проспекту, Anthropic планирует потратить $518 млрд на центры обработки данных и чипы из-за быстрого роста в ближайшие годы. Компания претендует на оценку в $2 трлн, что вдвое превышает $965 млрд, в которые она была оценена в предыдущем раунде прямых инвестиций.

Anthropic была основана в 2021 году отдельной группой исследователей OpenAI, которые были обеспокоены безопасным развитием ИИ.

С тех пор ее астрономический рост с выпуском Claude Code в конце 2025 года позволил компании обогнать OpenAI, своего главного конкурента.

OpenAI также в частном порядке подала заявку на IPO в июне, но Альтман отметил, что компания не будет проводить листинг из-за растущих рисков безопасности.

На этой неделе OpenAI решила приостановить выпуск своей новой модели после плохих результатов во время оценки безопасности.

На рынке IPO успешный листинг SpaceX на сумму 1,7 триллиона долларов в начале этого года продемонстрировал аппетит инвесторов.

«Как показал пример SpaceX, IPO сейчас все больше направлено на возврат стоимости инвесторам частного рынка, а не на создание стоимости для инвесторов публичного рынка», — сказал Норен. «Дарио Амодей — это не Илон Маск. Опасения по поводу пути ИИ к прибыльности резко возросли с июня».



Source link

Leave a Reply

Your email address will not be published. Required fields are marked *