Дарио Амодеи беседует с генеральным директором Morgan Stanley: конкурентные преимущества Anthropic, проблемы вычислительной мощности и будущие ставки
Гости: Дарио Амодеи, соучредитель и CEO Anthropic
Ведущий: Джейми Даймон, председатель и CEO JPMorgan Chase
Составил: Цзяхуан, ChainCatcher
В преддверии выхода Anthropic на биржу CEO Дарио Амодеи провел открытый диалог с CEO JPMorgan Chase Джейми Даймоном.
Даймон отметил, что Anthropic раскрыла около 900 миллиардов долларов долгосрочных обязательств, связанных с вычислительными мощностями, арендами и дата-центрами, и задал вопрос о том, как компания планирует обеспечить долгосрочное получение достаточных вычислительных мощностей при этом контролируя затраты.
Амоедеи назвал вычислительные мощности "самой глубокой коммерческой проблемой", с которой сталкивается Anthropic: компании необходимо заранее закупать мощности за один-два года, но трудно предсказать, когда технологические достижения смогут быть конвертированы в доход. Закупив слишком много, компания может оказаться под финансовым давлением; закупив слишком мало, она не сможет удовлетворить потребности клиентов и повлияет на разработку следующего поколения моделей.
Помимо вычислительных мощностей и выхода на биржу, они также обсудили корпоративную культуру Anthropic, коммерческое применение Claude, безопасность агентов, ценовую конкуренцию AI моделей, а также возможность того, что AI сможет продвинуть медицину и научные исследования.
Ключевые моменты:
Вычислительные мощности — это самая большая коммерческая проблема. Амоедеи заявил, что доходы Anthropic вырастут примерно в 10 раз в 2024 и 2025 годах, но компании по-прежнему трудно предсказать спрос на следующий год, в то время как вычислительные мощности необходимо закупать заранее на один-два года.
Anthropic склонна к консервативной закупке вычислительных мощностей. Компания заранее фиксирует часть мощностей по более низкой цене, и если рост бизнеса превысит ожидания, она дополнит запасы на более дорогом спотовом рынке. Он сравнил эту стратегию с покупкой страховки.
Важной причиной выхода на биржу является увеличение денежного резерва. Амоедеи считает, что чем больше наличности, тем больше у компании пространства для маневра в различных сценариях спроса на вычислительные мощности, а также тем больше возможностей для захвата возможностей в таких областях, как биология, робототехника и кибербезопасность.
Конкуренция в AI не ограничивается чат-ботами. Амоедеи считает, что каждое прорывное достижение в моделях может создать новые рынки. После чат-ботов и программирования, научные открытия,Наука о жизни, робототехника и кибербезопасность могут стать более крупными рынками.
Ключевым ограничением внедрения агентов является безопасность. Он отметил, что Anthropic выбирает обслуживать корпоративных клиентов, частично потому, что компании ценят доверие, долгосрочные отношения и репутацию, что делает коммерческие стимулы компании более согласованными с целями безопасности.
Узкие места в кибербезопасности переходят от обнаружения уязвимостей к их исправлению. Амоедеи заявил, что клиенты и Anthropic обнаружили сотни тысяч уязвимостей, но скорость исправления не успевает за скоростью обнаружения. В течение следующих 6-12 месяцев может увеличиться применение защитных кластеров агентов.
Anthropic планирует выделить 5% акций компании в благотворительный фонд. Амоедеи беспокоится о том, что новое богатство, созданное AI, сосредоточено в руках немногих компаний, фонд может сосредоточиться на вопросах трансформации рабочей силы и биобезопасности, конкретные направления все еще находятся в стадии исследования.
Таланты и культура — конкурентные преимущества Anthropic
Джейми Даймон: Вы работали в OpenAI и были одним из первых участников этой области. Сейчас в мире много компаний, занимающихся AI, как Anthropic может выделиться среди других компаний?
Дарио Амодеи: Я работал в нескольких крупных компаниях в этой области и всегда думал, почему одни проекты успешны, а другие — нет. Спустя годы я пришел к выводу, что таланты и культура — это самое важное.
Таланты и культура создают технологии, технологии создают продукты, продукты способствуют расширению рынка, продажам и другим бизнес-процессам компании. То, как общественность воспринимает компанию, также связано с людьми, создающими технологии, и их намерениями.
При создании Anthropic я и еще шесть соучредителей решили с первого дня поставить таланты и культуру на важное место. Каждый кандидат должен пройти культурное собеседование. Мы также будем настаивать на отказе от кандидатов с высокими техническими навыками, но не соответствующих культуре компании.
Мы не хотим, чтобы в команде были люди, не уважающие других, желающие только привлечь внимание или неспособные сотрудничать с другими, и мы также хотим, чтобы сотрудники разделяли общественные интересы. В краткосрочной перспективе соблюдение этих стандартов иногда затрудняет набор, но в долгосрочной перспективе это позволяет всем находиться на одной стороне.
Трудности компании часто не в том, что не хватает талантливых людей, а в том, что талантливые люди не могут работать вместе. Конфликты между различными командами в конечном итоге истощают энергию на внутренние разборки.
В Anthropic, когда возникает важная цель, будь то обучение модели, достижение целей безопасности, разработка продукта или продвижение политической работы, вся компания может работать вокруг этой цели.
Мы также видим результаты по удержанию сотрудников. Больше сотрудников, пришедших из других компаний в Anthropic, чем тех, кто ушел из Anthropic; все семь соучредителей до сих пор остаются в компании; более трех четвертей из первых 100 сотрудников все еще здесь. Даже если кто-то уходит, они часто возвращаются. Однажды два ключевых сотрудника по продукту вернулись менее чем через две недели после ухода, сказав, что не осознавали, что у них было.
Я трачу около 40% до 50% своего времени на таланты и культуру. Каждые две недели я участвую в внутреннем мероприятии для всей компании, называемом Dario Vision Quest. Я открыто рассказываю сотрудникам, что происходит в компании, не скрываю проблемы и стараюсь избегать бюрократического языка, и призываю других менеджеров делать то же самое.
Руководство может доверять сотрудникам, а сотрудники также верят, что руководство будет откровенно общаться. Это доверие имеет большую ценность.
В каких отраслях внедряется Claude?
Джейми Даймон: JPMorgan Chase является одним из крупных клиентов Anthropic. Claude принес нам много изменений, в настоящее время 250,000 сотрудников используют его разными способами несколько раз в неделю. Как другие компании из списка Fortune 100 используют Claude?
Дарио Амодеи: Claude применяется в различных отраслях. Одной из самых удивительных особенностей этой технологии является ее универсальность. Вы можете рассматривать это как "закон Мура" для когнитивных или интеллектуальных задач.
Общаясь с клиентами, я также столкнулся с множеством отраслей, о которых раньше не знал, и увидел, какую роль Claude может сыграть в этих отраслях.
Самой ранней и самой быстро принимаемой областью является программирование. Я и большинство соучредителей раньше писали много кода, и сейчас, видя, что модель может сделать, я все еще поражен. Почти каждая компания из списка Fortune 100 имеет значительные потребности в программировании, поэтому программирование обычно является первым местом, где они начинают использовать Claude.
Затем область применения расширилась на более широкий спектр интеллектуальной работы. В финансовых услугах Claude может обрабатывать простую документацию и помогать в более сложной стратегической работе. В страховании и юриспруденции он может составлять контракты и выявлять проблемы в контрактах.
Жизненные науки — это область, на которую я особенно обращаю внимание, применение включает написание клинических отчетов, помощь в базовых исследованиях, прогнозирование связывания белков, повышение эффективности производства и помощь в проведении основного биологического исследования.
В электронной коммерции некоторые компании развернули Claude как интеллектуального агента, ориентированного на потребителей. В производственном секторе также наблюдается рост использования Claude для повышения эффективности, включая такие области, как производство полупроводников и строительство.
Внедрение агентов в компании: сначала необходимо решить вопросы безопасности
Джейми Даймон: Вы упомянули агентов. Какие меры необходимо предпринять для регулируемых компаний, прежде чем разрешить агентам доступ к конфиденциальной информации?
Дарио Амодеи: Самое важное — это безопасность. Способности агентов быстро растут. Способны ли они выполнять исследования в области жизненных наук или писать сложные программные архитектуры — это не единственная проблема; настоящим ограничением для разработки технологий, внутреннего развертывания и использования клиентами является то, как безопасно использовать эти возможности.
Мы не хотим, чтобы агенты вышли из-под контроля. Поэтому Anthropic вложила значительные ресурсы в обеспечение создания соответствующих механизмов безопасности и согласования с самого начала этапа обучения модели.
У нас есть большая команда по согласованию, которая всегда бдительна к этим вопросам. Каждые несколько месяцев мы пересматриваем работу по безопасности, охране и согласованию и увеличиваем инвестиции.
Anthropic с самого начала сосредоточилась на корпоративных клиентах. Мы знаем, что компании часто больше ценят вопросы безопасности, чем потребители, и бизнес компаний также имеет синергию с нашими целями безопасности.
Мы ценим безопасность, потому что считаем, что эту технологию следует разрабатывать правильным образом. В то же время мы также думаем о том, какая бизнес-модель может дать нам более сильные стимулы для достижения безопасности. Ответ — корпоративный бизнес: компании ценят доверие, долгосрочное сотрудничество и свою репутацию, не желая, чтобы модели причиняли серьезный ущерб.
Это делает наши коммерческие стимулы более согласованными с социальными целями, которые мы хотим достичь.
Джейми Даймон: Можем ли мы действительно контролировать полномочия агентов? Например, разрешая им доступ к конфиденциальным системам, при этом гарантируя, что они могут выполнять только операции A, B, C, D и ничего другого?
Дарио Амодеи: Это немного похоже на развитие технологий автономного вождения.
Автономное вождение имеет огромный потенциальный ценность и в конечном итоге может быть гораздо безопаснее, чем вождение человеком. Но сначала необходимо достичь достаточного уровня надежности технологии, создать правильные защитные механизмы и правильно спроектировать систему.
Мы никогда не сможем предоставить 100% гарантию. Невозможно сказать, что автономный автомобиль, независимо от того, сколько людей его использует, никогда не попадет в аварию. Но мы можем стремиться сделать систему гораздо более безопасной, чем управление человеком, достигнув многократного, сотенного или даже более высокого уровня безопасности.
За 900 миллиардов долларов обязательств: проблема с закупкой вычислительных мощностей
Джейми Даймон: Anthropic раскрыла около 900 миллиардов долларов долгосрочных обязательств, связанных с вычислительными мощностями, арендами и дата-центрами. Я также видел утверждение, что около 80% вычислительных мощностей используется для обучения новых моделей, а только около 20% — для вывода, в то время как мы, клиенты, в основном используем услуги вывода.
Как вы планируете обеспечить получение необходимых вычислительных мощностей в будущем, сохраняя при этом эффективность затрат?
Дарио Амодеи: Вычислительные мощности — это самая глубокая коммерческая проблема, с которой сталкивается Anthropic.
Технологическое развитие в этой области происходит очень быстро, но мы не знаем, с какой скоростью технологические достижения будут конвертированы в коммерческую ценность, поэтому существует огромная неопределенность.
В 2024 и 2025 годах доходы Anthropic вырастут примерно в 10 раз каждый год. Но каждый год мы задаем себе вопрос: что произойдет в следующем году? Мы не знаем. С увеличением размера компании суммы также становятся все больше.
В то же время вычислительные мощности необходимо закупать заранее на один-два года. Сколько закупать, зависит от того, сколько затрат компания может понести.
Закупив слишком много, компания может оказаться под чрезмерным финансовым давлением; закупив слишком мало, она не сможет предоставить клиентам достаточные услуги вывода. Более того, нехватка вычислительных мощностей также повлияет на исследования и разработки, которые определяют, какие модели мы сможем выпустить через шесть месяцев или год, а также определяют способность компании генерировать доход в будущем.
Мы в основном расширяем пространство для маневра двумя способами.
Первый — это валовая прибыль. Чем выше валовая прибыль, тем больше пространства для корректировки при закупке большего или меньшего количества вычислительных мощностей. Проще говоря, это отражает разницу между стоимостью вычислительных мощностей и доходом, который компания получает от их использования. В проспекте эмиссии указано, что наша валовая прибыль довольно хороша, особенно по сравнению с другими компаниями в отрасли.
Второй — это наличные средства на балансе. У нас в настоящее время много наличных, и мы надеемся продолжать увеличивать денежные резервы.
Тем не менее, даже с этими буферными средствами, долгосрочные обязательства компании все еще велики. Хотя эти обязательства растягиваются на несколько лет, а доходы быстро растут, суммы все равно значительны.
Поэтому наша стратегия заключается в относительно консервативной закупке вычислительной мощности: заранее по более низкой цене купить часть вычислительной мощности. Если бизнес будет работать хуже, чем ожидалось, мы уже контролируем затраты; если результаты будут значительно лучше, чем ожидалось, мы можем купить дополнительную мощность на спотовом рынке.
Спотовая вычислительная мощность дороже, но мы будем покупать её только в случае особенно хороших результатов бизнеса. Это немного похоже на покупку страховки: чтобы получить защиту в различных ситуациях, нужно заплатить за дополнительную гибкость.
Мы уверены, что эта стратегия позволит компании продолжать инвестировать в исследования и разработки, чтобы воспользоваться возможностями роста, а также обеспечит защиту в случае, если бизнес будет работать хуже, чем ожидалось.
Становится ли ИИ товаром с увеличением числа дешевых моделей?
Джейми Даймон: Все больше компаний покупают токены. Все быстро понимают, что многие задачи не требуют дорогих моделей, их можно решить с помощью более дешевых моделей и токенов. Эта часть услуг может постепенно стать стандартизированным товаром. В чем может быть ошибка в этом суждении?
Дарио Амодеи: Во-первых, каждый раз, когда границы возможностей передовых моделей расширяются, это может создать совершенно новые рынки.
Знакомый путь развития рынка: на ранних стадиях много стартапов, клиенты готовы платить высокие цены; по мере зрелости рынка продукты постепенно становятся товарными, и все начинают обсуждать защитные барьеры и более дешевые альтернативы.
В конкретном приложении ИИ это действительно может произойти. Чат-боты — это пример. Но ИИ — это не только одно приложение, не один рынок. С постоянным повышением интеллектуальных возможностей новые рынки будут постоянно появляться.
В 2023 году все обращают внимание на чат-ботов. Anthropic, увидев возможности модели, считает, что программирование станет более крупным рынком, поскольку модели уже начинают становиться достаточно умными, чтобы справляться с задачами программирования.
Поэтому мы сосредоточили внимание на передовых возможностях, а не на борьбе за рынок чат-ботов или на создании защитных барьеров вокруг чат-ботов.
Сейчас программирование на ИИ постепенно созревает, но впереди еще долгий путь. Если посмотреть на уровень проникновения в компании из списка Fortune 500, можно увидеть, что работы еще много.
Тем временем я считаю, что внимание рынка будет переключаться на новые области. Эти области могут быть больше, чем программирование, так же как рынок программирования больше, чем рынок чат-ботов. Научные открытия, бионауки, физика, материалы, робототехника и кибербезопасность относятся к таким областям. Они сталкиваются с более сложными задачами, чем обычное программирование, поэтому мы будем продолжать следить за передовыми возможностями.
Во-вторых, даже в задачах, где не требуется передовая модель, мы можем использовать большие модели для обучения более мелких и эффективных моделей.
Мы повышаем эффективность использования вычислительной мощности, делая большие модели более эффективными, и можем применять эти технологии к малым моделям. Например, Haiku 5.5 стоит 0.10 долларов за миллион входных токенов и 0.50 долларов за миллион выходных токенов. Мы также можем создавать модели по низкой цене и конкурировать с другими производителями по эффективности.
Может ли ИИ способствовать прорывам в медицине и науке?
Джейми Даймон: Может ли ИИ помочь человечеству излечить рак и другие болезни или способствовать прорывам в термоядерном синтезе, квантовых технологиях и других важных областях?
Дарио Амодеи: Мы многократно наблюдали подобный процесс технологического прогресса в различных областях. Например, в математике, в 2023 году модели даже с трудом справлялись с задачами средней школы. Люди в целом считали, что чат-боты, хотя и хороши в общении, не умеют решать математические и логические задачи.
К 2024 году модели уже могли довольно хорошо решать задачи средней школы. В 2025 году они начали решать некоторые ранее неразрешенные математические проблемы. Сначала было только одно или два случая, и люди говорили, что эти проблемы могли быть в обучающих данных или что модели просто повезло.
Но затем количество решенных моделей проблем стало расти, и они начали касаться более важных и сложных вопросов.
Сейчас мы видим ранние признаки подобного процесса в новых областях, таких как биология и робототехника. Эксперты часто очень скептичны, особенно в фармацевтической отрасли. Они видели много технологий, пытавшихся решить проблемы отрасли, и знают, насколько эти проблемы сложны.
В области бионаук люди говорят, что узким местом являются клинические испытания, производство или одобрение Управления по контролю за продуктами и лекарствами США. Но мы видим, что ИИ постепенно помогает решать проблемы на этих этапах. Я считаю, что в ближайшие годы это изменение может стать более очевидным.
Мы не можем заранее определить результат. В какой-то конкретной области скептики могут быть правы. Но я считаю, что потенциал ИИ для достижения значительного прогресса в биологии очень велик.
После обнаружения уязвимостей, труднее всего их исправить
Джейми Даймон: До появления Mythos и агентов кибербезопасность была одним из крупнейших рисков для JPMorgan. У нас есть тысячи сотрудников, занимающихся кибербезопасностью, и, возможно, нам нужно больше людей для исправления обнаруженных уязвимостей.
Теперь работающие агенты могут атаковать различные защитные границы компаний. Как компании, поставщики и вся отрасль должны подготовиться к этому?
Есть некоторые ключевые отрасли, которые почти не имеют достаточной защиты, и нам также нужно помочь им не отставать.
Дарио Амодеи: Во-первых, обнаружение уязвимостей — это только первый шаг.
После запуска Mythos мы вложили много усилий в поиск уязвимостей. Клиенты обнаружили сотни тысяч уязвимостей, мы сами также нашли сотни тысяч. Следующим узким местом стало то, как исправить эти уязвимости.
Исправление сложнее, чем обнаружение. Мы нашли много уязвимостей, но клиенты и мы сами не можем исправить их достаточно быстро. Поэтому Claude постепенно повышает способность исправлять уязвимости, и мы также начали предлагать больше связанных услуг.
Третий шаг — это написание более безопасного кода с самого начала. С повышением программных возможностей Claude мы также специально обучаем его, чтобы он лучше писал безопасный код.
Четвертый шаг — это защита в реальном времени. Кибератаки могут происходить за несколько часов, минут или даже секунд. Если удастся развернуть группу защитных агентов, которые будут постоянно проверять серверы и системы компаний и в реальном времени отражать атаки, это будет очень ценно.
Этот подход пока не получил широкого распространения, но я считаю, что в ближайшие 6-12 месяцев появится все больше приложений. Поскольку атакующие также будут использовать группы агентов, защитники также нуждаются в группах агентов.
Почему выбрать именно сейчас для выхода на рынок?
Джейми Даймон: Anthropic собирается выйти на рынок. Почему именно сейчас? Выход на рынок имеет свои плюсы и минусы, вы считаете, что это сделает компанию лучше или усложнит управление?
Дарио Амодеи: Есть несколько причин для выхода на рынок, но самая важная — это инвестиции в вычислительную мощность.
В биологии, робототехнике, кибербезопасности и более широких областях интеллектуального труда есть огромные экономические возможности. Мы хотим вложить достаточно ресурсов, чтобы гарантировать, что сможем воспользоваться этими возможностями.
Чем больше наличных, тем больше пространство для маневра между низкими и высокими потребностями в вычислительной мощности. Это также важная причина для выхода на рынок.
Что касается конкретного месяца, дня или рыночной ситуации для выхода на рынок, мы не зацикливаемся на этом.
Перед началом процесса выхода на рынок я никогда не проходил через это. Anthropic потребовалось около шести лет, чтобы перейти от стартапа к тому, чем мы являемся сегодня. Я консультировался со многими людьми, и один из советов, который мне особенно понравился: не позволяйте оценке компании превышать ее реальную ценность хотя бы на доллар.
Это близко к одному из принципов Anthropic: меньше обещаний, больше выполнения.
Мы обычно не говорим заранее о том, какие возможности будут у модели, пока она не будет завершена. Сначала мы создаем модель, подтверждаем, что она достаточно хороша, а затем публикуем. То же самое касается систем безопасности. Я надеюсь, что выход на рынок также будет следовать этому принципу.
Выделить 5% акций для создания благотворительного фонда, опасаясь концентрации богатства от ИИ
Джейми Даймон: Anthropic также объявила о создании благотворительного фонда. Многие люди могут не понимать, зачем это делать? Какие у вас планы относительно фонда?
Дарио Амодеи: Мы решили выделить 5% акций компании на благотворительный фонд.
Кроме того, соучредители также пообещали пожертвовать 80% своего личного состояния. С момента основания компании у нас также есть программа сопоставления пожертвований сотрудников: если сотрудники пожертвуют определенный процент акций благотворительным организациям или оставят их для благотворительных целей, компания предоставит дополнительные акции для сопоставления.
Эти меры основаны на общей идее: ИИ — это очень мощная технология. Она уже создала огромную экономическую ценность для Anthropic и всей отрасли, и мы надеемся, что будущие возможности будут еще больше, но мы не можем быть уверены в этом.
Я надеюсь, что ИИ сможет помочь человечеству излечить рак и болезнь Альцгеймера, обеспечить более дешевую и доступную энергию, лучшие материалы, чтобы больше людей имели более богатую материальную жизнь.
Но мы также беспокоимся о том, что если значительное количество нового богатства будет происходить от одной технологии и сосредоточится в руках немногих компаний, общество может столкнуться с одновременным быстрым ростом и высокой концентрацией богатства.
Мы надеемся смягчить проблему концентрации богатства, и благотворительный фонд — это часть этого.
Конкретные направления фонда все еще находятся в стадии исследования. Мы не будем сейчас объявлять о решении длинного списка проблем, а хотим сначала выяснить, какие проблемы стоят на первом месте для инвестиций.
Возможные направления включают помощь обществу в плавном переходе к изменениям в рабочей силе, вызванным ИИ, а также биобезопасность. ИИ может принести огромный прогресс в биологии, но, как и сетевые технологии и другие технологии, он также может быть использован неправильно. Нам нужно предотвратить злоупотребления и создать эффективные механизмы защиты.
Через 15 лет надеюсь, что болезни станут историей, и нужно избежать неконтролируемого ИИ
Джейми Даймон: Последний вопрос. Если через 15 лет оглянуться на сегодняшний день, что бы вы больше всего хотели, чтобы произошло, а что бы вы больше всего не хотели, чтобы произошло? Есть ли что-то, о чем мы сегодня не говорили, но вы хотите сказать всем?
Дарио Амодеи: Самое важное — это обеспечить, чтобы эта технология развивалась правильным образом.
Я говорил о многих технологических рисках, включая использование для биологических или кибератак, экономические потрясения и потерю контроля человечества над агентами. Эти риски очень серьезны и не являются маркетинговыми фразами. Anthropic с самого начала серьезно относилась к этим вопросам и инвестировала ресурсы для их решения.
Мы надеемся установить пример для всей отрасли о том, как справляться с рисками. Но просто хорошо работать внутри Anthropic недостаточно, мы также надеемся, что другие компании, клиенты и поставщики в индустрии ИИ будут действовать ответственно.
Во-вторых, нам нужно действительно реализовать положительную ценность ИИ.
В области биологии и медицины мы только начинаем видеть потенциал этой технологии. В фармацевтической отрасли, среди стартапов в области биотехнологий и в академической среде все еще много скептицизма. Мы не можем заранее знать результат, скептики могут быть правы, но я надеюсь, что в конечном итоге смогу доказать, что их опасения не оправдались.
Я надеюсь, что однажды болезни сердца, болезнь Альцгеймера и рак смогут стать такими же историческими, как чума и оспа сегодня.
Это может показаться идеалистичным или даже безумным, но я действительно верю, что это возможно. Я не знаю, потребуется ли на это пять, десять или пятнадцать лет, но мы сделаем все возможное, чтобы достичь этой цели как можно скорее.
链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.


Популярные статьи










