Почти треть проспекта Anthropic к потенциальному IPO посвящена факторам риска. В документе перечислены тревожные варианты поведения моделей, которые, по словам компании, уже проявлялись или могут проявиться: попытки «сопротивляться отключению», «скрывать или искажать информацию» и поведение, «напоминающее шантаж».
В проспекте также говорится об «экзистенциальных рисках для человечества». Это предупреждение прозвучало на фоне растущих опасений по поводу безопасности ИИ.
Инвесторы компании, как сообщается, считают, что при выходе на биржу её оценка может превысить $2 трлн — более чем вдвое больше оценки в $965 млрд. Потенциальное IPO может стать крупнейшим в истории. Возникает парадоксальная ситуация: компания предупреждает, что её продукт способен стать чрезвычайно опасным, а ранние инвесторы и сотрудники при этом могут значительно разбогатеть.
Убытки, рост выручки и расходы на инфраструктуру
В проспекте указано, что операционный убыток Anthropic превысил $8 млрд. На фоне резкого роста расходов на вычислительные мощности выручка компании увеличилась в 12 раз — почти до $4,6 млрд. При этом из-за затрат на инфраструктуру общие операционные расходы достигли почти $13 млрд.
Компания планирует потратить $518 млрд на облачные сервисы, вычислительные мощности и инфраструктуру. Для этого Anthropic заключила соглашения о вычислительных ресурсах с Google, SpaceX и Nscale, а также другими компаниями.
Выручка Anthropic за второй квартал составила $11,5 млрд. Компания движется ко второму подряд кварталу скорректированной операционной прибыли.
В документе также отмечена зависимость от крупных клиентов: почти четверть выручки компании пришлась всего на двух заказчиков. Их имена не раскрыты.
Предупреждения об ИИ и инциденты безопасности
Генеральный директор Anthropic Дарио Амодей публично призывал «сдерживать темпы развития передовых систем ИИ». В Совете Безопасности ООН он заявил, что ИИ может угрожать человечеству, и назвал эту тему «важнейшей глобальной проблемой безопасности, стоящей перед миром».
Сэм Альтман и Илон Маск также поддержали предупреждения Амодея. Марк Цукерберг, напротив, отверг опасения по поводу необходимости координации в отрасли: «Не думаю, что нам нужна какая-то общеотраслевая координация».
Предупреждения прозвучали после серии инцидентов, в ходе которых ИИ-агенты проникали во внешние системы. OpenAI сообщила, что её инструменты взломали «десятки» внешних сайтов, включая сайт Комиссии по ценным бумагам и биржам США (SEC). Компания также отказалась выпускать свою новейшую модель из-за опасений по поводу безопасности.