Цукерберг говорит о Muse: взрыв AI-агента, три главные ставки "метавселенная, умные очки и большие модели" пересекаются

Автор: Лун Юэ, Wall Street Journal

Три года назад генеральный директор Meta Марк Цукерберг в программе Джо Рогана сказал, что однажды люди наденут очки, и AI Agent появится вместе с ними. Сегодня этот момент, возможно, уже наступает.

Личный AI Agent от Meta — Muse — за две недели после запуска привлек миллионы пользователей. Цукерберг в интервью 25 сентября заявил: "Каждые несколько лет мы сталкиваемся с чем-то подобным." Он охарактеризовал раннюю реакцию на Muse как "сразу же хитом" — это редкость в истории продуктов Meta.

В то же время, он объявил, что Muse будет интегрирован во всю линейку умных очков Ray-Ban, пользователям больше не нужно будет говорить "Эй, Meta", они смогут настроить собственное слово для пробуждения и напрямую вызывать своего личного AI Agent.

На протяжении многих лет мета-вселенная, умные очки и большие модели, которые внешние наблюдатели считали тремя независимыми ставками, начинают быстро сливаться на уровне продуктов Meta.

В этом интервью Цукерберг также признал, что провал Llama 4 был "самым страшным моментом" и сообщил, что Meta строит кластер для обучения мощностью 5 гигаватт, считая, что достаточно большая вычислительная мощность может "жестко взломать" AGI.

Почему Muse может "сразу же стать хитом"

Начало Muse — это когда Цукерберг и члены его команды Нат и Алекс сидели вместе и "собирали" раннюю версию с помощью инструментов с открытым исходным кодом у себя дома.

"Мы поняли, что это волшебный опыт," — сказал Цукерберг, "если мы сможем сделать так, чтобы это мог использовать любой человек — не нужно покупать Mac Mini, не нужно возиться с терминалом — это будет то, что хотят миллиарды людей."

Это суждение стало движущей силой всей последующей логики разработки: не просто обучение модели, а полная разработка от модели, каркаса до "сердечного ритма" Agent — Agent будет регулярно автоматически пробуждаться, проверять цели пользователя и активно продвигать дела.

Данные после запуска подтвердили это суждение. За две недели — миллионы пользователей.

Личный AI: акцент на исполнении, памяти и "суждении"

Что касается различий между личным AI и общим AI, Цукерберг обобщил текущие конкурентные акценты как стремление сделать модель лучшим Agent.

"Самое важное за последний год — это программирование Agent," — сказал он, подчеркивая важность программирования, потому что даже если пользователь не пишет код напрямую, "ваш Muse будет постоянно писать код в фоновом режиме, чтобы выполнять различные задачи."

Но он считает, что личный Agent не должен обладать только навыками кодирования или выполнения задач, он также должен понимать границы конфиденциальности и социальный контекст.

Цукерберг привел пример: когда пользователь просит Muse забронировать ресторан, Agent может знать о наличии аллергии или беременности у пользователя, но это не означает, что эта информация должна быть автоматически раскрыта. "Вы хотите, чтобы он выполнял задачи, при этом раскрывая как можно меньше информации."

Он отметил, что эта способность относится к "основным социальным навыкам или здравому смыслу", которые обычно присущи людям, но если просто обучать кодирующего Agent, многие компании не включают это в возможности модели.

"Мы обучаем целую модель, а не берем готовую модель от других и строим вокруг нее каркас и Agent," — сказал Цукерберг. Meta также добавила в продукт функции памяти, отслеживания задач, анимации виртуальных персонажей и взаимодействия в реальном времени.

Что касается персонализации, он заявил, что Meta не считает, что AI должен иметь только одну фиксированную личность. "Многие лаборатории сосредоточены на том, как настроить личность в правильное состояние, но я никогда не считал, что личность имеет только один правильный ответ."

Он отметил, что Muse позволяет пользователям изменять аватар, голос и основные черты характера, цель дизайна модели — обеспечить высокую управляемость. "Вы можете определить, как хотите взаимодействовать с ним, это важно для личного Agent."

Каждый Agent имеет свой "компьютер"

Одной из ключевых инфраструктур, отличающих Muse от других AI-продуктов, является то, что Meta предоставляет каждому Agent отдельную безопасную виртуальную машину (Secure VM).

Цукерберг объяснил, почему это необходимо:

Ваш Agent будет знать о вас много чувствительной информации. Мы не считаем, что эта информация должна смешиваться с данными всех остальных.

Он сравнил Muse Secure VM с "компьютером, который принадлежит только вам и стоит под вашим столом" — данные пользователей хранятся в зашифрованном виде, пароли и другие чувствительные учетные данные управляются через отдельный безопасный модуль, сам Agent не может их напрямую читать.

На этой основе Meta также разработала "Sentinel" — безопасный Agent, который специально следит за входящими и исходящими данными Muse, и в случае обнаружения аномалий или высокорисковых операций немедленно блокирует и предлагает пользователю авторизовать действия.

Мета-вселенная, умные очки и Agent, три направления сливаются

Цукерберг в интервью сообщил, что Muse будет полностью интегрирован в серию умных очков Ray-Ban и обновит существующие способы взаимодействия.

Текущие очки предлагают "односторонний диалог" — вы говорите что-то, получаете ответ, и на этом все. После интеграции Muse, очки становятся фронтальным входом для Agent: пользователь говорит, а Muse в безопасной виртуальной машине продолжает работать, выполняет задачи и затем дает обратную связь.

Что касается продуктовой линии очков, он описал четкую иерархию аппаратного обеспечения:

• Очки без камеры с чисто аудио функциями: уже оснащены Muse, могут обрабатывать звонки, музыку, голосовые задачи
• Meta Ray-Ban с небольшим экраном: уже выпущены, имеют базовую визуальную обратную связь
• Прототип голографических AR-очков с полем зрения: уже выпущены, Цукерберг назвал их "очень захватывающими"

Он отметил, что долгосрочные инвестиции Meta в очки ставят компанию в более выгодное положение после созревания AI Agent. Meta вводит Muse и другие AI-функции в продукты очков, в то время как технологии мета-вселенной, которые ранее акцентировались на "ощущении присутствия", продолжают развиваться, просто сейчас больше ресурсов направлено на AI-функции Muse и умных очков.

Что касается виртуальных образов, Цукерберг отметил, что ранее Meta требовалось использовать оборудование на уровне комнаты, многократное сканирование и корпоративную GPU-среду для создания высококачественных реалистичных аватаров; сейчас пользователи могут настроить их, используя всего несколько фотографий, и соответствующие возможности уже могут работать на VR-очках.

Смотрев в 2030 год, Цукерберг заявил, что основная цель мета-вселенной всегда заключалась в объединении физического и цифрового миров. Он привел пример, что в будущем люди смогут участвовать в мероприятиях вместе с друзьями, подключенными через голографические изображения; в рабочих сценариях люди могут участвовать в групповых чатах или совещаниях вместе с несколькими Agent, которые могут появляться в виде голограмм или других воплощенных форм.

"Самый страшный момент": ошибка Llama 4

Не все ставки были успешными. Цукерберг в интервью редко прямо говорил о провале Llama 4.

После Llama 4 это был самый страшный момент… Я думал, что мы на правильном пути, но это не так. Это было довольно серьезное негативное событие.

Он свел проблему к фундаментальной ошибке в структуре команды:

Я собрал команду по образцу рекомендательной системы Instagram или рекламной системы — сотни или тысячи людей работают параллельно. Но для обучения языковой модели нужна небольшая команда, работающая в тесном сотрудничестве, рассматривающая это как проект научного сообщества. Каждое место в команде крайне ценно.

В результате Meta полностью реорганизовалась, привлекла лучших специалистов из отрасли и создала Лабораторию суперинтеллекта Meta (Meta Super Intelligence Lab, MSL). Цукерберг сообщил, что новое поколение моделей скоро будет выпущено, но не будет представлено на конференции Connect.

Путь вычислительной мощности: жесткое взлом AGI, проект на 5 гигаватт в разработке

Говоря о технологическом пути к AGI, Цукерберг дал прямую оценку.

Я не уверен, что нам нужны какие-то фундаментальные прорывы в архитектуре… Я думаю, что мы уже примерно знаем формулу. Если вы сможете построить достаточно большой кластер суперкомпьютеров, вы сможете жестко взломать и достичь этого.

В настоящее время маршрут расширения вычислительной мощности Meta: кластер мощностью более 1 гигаватта в Огайо уже в основном используется для обучения следующего поколения моделей; кластер мощностью 5 гигаватт в Луизиане находится в стадии строительства.

Он отметил, "когда у вас есть многогигабатный кластер для обучения, вы, по сути, получите что-то, близкое к AGI или даже суперинтеллекту."

Однако он также добавил, что текущий путь, основанный на вычислительной мощности, не означает, что исследование архитектуры не важно------

Человеческий мозг потребляет около 10 ватт, в то время как наша система может быть в миллион раз менее эффективной. Только сочетание масштабной вычислительной мощности и прорыва в архитектуре может действительно привести к успеху.

Совпадение, а не бремя, это проблема, которую продукт должен решить

Цукерберг имеет практичный подход к безопасности AI — он не рассматривает это как давление со стороны регуляторов, а как предпосылку для успешности продукта.

Если вы заставите Muse сделать что-то, а он сделает наоборот, кто будет его использовать? Нам нужно, чтобы модель не только понимала ваши конкретные команды, но и понимала ваши намерения и ваши ценности.

"Чтобы Muse достиг миллиарда пользователей, мы должны решить проблему согласования, или, иначе говоря, добиться значительного прогресса в этом." — сказал он.

Что касается границ безопасности в процессе обучения, он использовал аналогию: "Это как если бы родители ставили правила для детей — если он изменяет системные настройки, чтобы 'выполнить' задачу по программированию, я должен сказать ему: нет, я хочу, чтобы ты научился решать задачи, а не искал обходные пути."

Полный текст интервью: >

Масштабные ставки

Ведущий: Это дело будет интересно миллиардам людей. Каково это для вас — строить? "Бессмертие" — это возможно? Хорошо, если вы позволите мне заглянуть в ваш разум, как это будет выглядеть в 2030 году?

Это Марк Цукерберг. 22 года назад он создал социальную сеть, которая соединила миллиарды людей и навсегда изменила мир. А теперь он решил построить нечто более грандиозное. Для этого он делает масштабные ставки на метавселенную, умные очки и искусственный интеллект. На протяжении многих лет скептики считали это три отдельные независимые ставки, которые не могут быть успешными, но они упустили из виду более широкую картину — потому что сейчас эти ставки объединяются, создавая совершенно новый суперинтеллект.

Сегодня мы представим вам все это, и я задам Марку несколько вопросов, которые ему никогда не задавали, чтобы услышать его видение будущего и дать вам возможность заранее подготовиться к следующему большому делу.

Ведущий: Большое спасибо, что пришли на программу.

Марк: Спасибо, рад быть здесь.

Ведущий: Для этого разговора я пересмотрел каждое ваше интервью.

Марк: Ух ты, это больше, чем я сам смотрел.

Ведущий: Это было очень интересно и познавательно. Две вещи произвели на меня глубокое впечатление: во-первых, ваша любовь к "строительству", я чувствую, что вы один из лучших строителей; во-вторых, ваша способность делать ставки — смелость делать огромные ставки. Я думаю, что на этой неделе все эти ставки объединяются, так что давайте начнем с этого.

Марк: Хорошо. Мы занимаемся этими вещами уже долгое время. В области ИИ, как компания, мы занимаемся этим почти с самого начала — первая версия новостной ленты в некотором смысле была продуктом машинного обучения. Затем мы создали лабораторию исследований ИИ около 15 лет назад.

Но сейчас мы вступили в новую стадию — чуть больше года назад мы запустили лабораторию Meta Superintelligence. Это было довольно радикальное перезапуск исследований, в которое были привлечены множество талантливых людей из всей отрасли, что вдохновляет. В настоящее время мы видим, что модели становятся все лучше, и следующая генерация моделей скоро будет выпущена, но не будет объявлена на конференции Connect. Кроме того, у нас есть персональный помощник Muse, который, судя по всему, вызывает очень положительные отклики.

Когда вы строите эти вещи, вы на самом деле не уверены, каков будет результат. Нам это нравится. В начале этого года я собрал Open Claw у себя дома, чтобы понять, как это работает и как превратить это в волшебный опыт, которым сможет воспользоваться любой.

В основном, когда мы — я, Nat и Alex — сидели вместе, осознавая, что это волшебный опыт, и если мы сможем сделать его готовым к использованию, чтобы обычные люди, которые не понимают технологий, не хотят устанавливать Mac Mini, не хотят возиться с терминалом и не хотят отлаживать, когда что-то пойдет не так, могли бы им пользоваться, я подумал, что это будет то, что миллиарды людей захотят использовать.

С тех пор мы работаем над этой целью: специально настраиваем модели, строим не только самого помощника и его рабочую среду, но и технологии, которые обеспечивают независимую вычислительную среду для каждого помощника — для этого мы построили целый набор безопасных виртуальных машин Muse.

Мы всегда считали это чем-то особенным, и внутренние сотрудники тоже это любят, но вы никогда не знаете, как люди отреагируют после выпуска продукта. Иногда бывает так, что продукт становится хитом с самого начала, но чаще всего вы получаете положительные отзывы и должны доработать несколько моментов, чтобы продукт действительно "щелкнул". Но в этот раз, как только он вышел, он сразу "щелкнул". Видеть, как это происходит, действительно вдохновляет — всего через две недели количество пользователей уже достигло миллионов, что довольно редко. Мы можем столкнуться с такой ситуацией раз в несколько лет, но это определенно один из самых приятных моментов для стартапа.

Ведущий: Я восхищаюсь вашей способностью оставаться на арене и постоянно пробовать новое. И так много раз вы добивались успеха — это действительно впечатляет. У вас было интервью с Джо Роганом, примерно три года назад, и в конце вы упомянули, что однажды можно будет просто надеть очки, и ИИ-помощник появится. Так что я чувствую, что Muse уже имеет физическое воплощение, что очень умно, потому что это ощущение неизбежно произойдет.

Марк: Я думаю, это просто делает его более дружелюбным и привлекательным. Я считаю, что слишком много людей описывают ИИ как нечто пугающее, но ИИ должен быть просто полезным и интересным. Это физическое воплощение — на ранних этапах проекта один дизайнер создал этот персонаж, и почему-то они всегда хотели его доработать, но первая версия была лучшей. Позже кто-то сказал: "О, он должен быть синим, потому что это Meta." Я сказал: "Нет, я думаю, что этот образ правильный, вы попали в точку с первого раза." Вот так, это просто весело.

Каковы различия между персональным ИИ и общим ИИ?

Ведущий: Отличные детали. Если вы хотите, чтобы модель показывала отличные результаты в личных делах, а не просто была общей интеллектуальной моделью, как будет отличаться способ обучения?

Марк: Я думаю, что в настоящее время основное внимание уделяется тому, чтобы модель стала отличным "агентом". В прошлом году самым большим трендом были программные агенты, которые содержат две основные идеи: профессиональные навыки программирования и общие способности быть отличным агентом.

Наша стратегия заключается в том, чтобы в первую очередь сосредоточиться на том, чтобы сам агент был хорош, а не специализироваться на навыках программирования.

Важность навыков программирования заключается в том, что даже если пользователь не считает, что он пишет код, Muse постоянно пишет код в фоновом режиме для выполнения различных задач. Но мы считаем, что агент должен в первую очередь быть отличным агентом, а навыки программирования служат этой цели.

Кроме того, при создании персонального помощника некоторые вещи важнее, чем при создании корпоративного программного продукта. Например, если вы создаете корпоративный инструмент программирования, модели вовсе не нужно иметь представление о "масштабе раскрытия информации" — например, какую информацию следует сообщать, а какую нет. Но для Muse это очень важно.

Вам нужно обучить эту способность в модели, как и любую другую способность. Вы будете говорить ей много вещей и надеяться, что она поможет вам достичь целей. Например, вы хотите, чтобы она помогла вам забронировать ресторан, вы ищете подходящий ресторан, но у вас может быть какая-то аллергия или вы беременны, и вы, возможно, не хотите раскрывать эту информацию ресторану. Но Muse будет знать эту информацию, и вы хотите, чтобы она выполнила задачу, раскрывая как можно меньше информации. Это конкретный навык, по сути, базовые социальные нормы для человека.

Но те компании, которые занимаются только программными агентами, в большинстве случаев не обучили эту способность. Мы можем это сделать, потому что мы работаем в полном объеме — мы не берем готовую модель от других и не накладываем на нее рамку, мы обучаем всю модель с нуля, специально для этих способностей.

Модель, конечно, должна обладать широкими общими интеллектуальными способностями, но она также обладает этими специфическими способностями. Затем на этой основе вы строите весь помощник и все детали вокруг него: память, рабочая среда и способ, которым он "бьет" — он периодически пробуждается, проверяет: "Хорошо, это то, что я знаю о ваших целях, есть ли что-то, что я могу сделать прямо сейчас."

У нас есть специальная команда, которая отвечает за доработку анимации виртуального образа в реальном времени, потому что это не просто стандартный образ — вы можете настроить любой образ, и он будет естественно двигаться, что выглядит потрясающе. Мы также запускаем голосовой режим, вы можете вести голосовой диалог в реальном времени, и ваш помощник будет рядом с вами. Я думаю, что все эти детали происходят из того, что мы работаем в полном объеме — модели и продукты разрабатываются вместе.

Ведущий: Еще одна важная вещь — это виртуальные машины. Можете объяснить, почему это важно и что это открывает?

Почему Meta предоставляет каждой ИИ-помощнице независимый компьютер?

Марк: В основном, чтобы агент мог делать что-то для вас, ему нужно место для хранения вашей информации. Мы считаем, что эта информация не должна смешиваться с информацией других людей в одном ресурсе.

Это можно понять так: ваш помощник будет знать много о вашей конфиденциальной информации. Многие люди, впервые сталкиваясь с такими агентами, как OpenCloud, настраивают у себя дома Mac Mini. Поэтому мы подумали, что многие люди не хотят покупать Mac Mini или настраивать его самостоятельно. Так какой опыт может лучше всего приблизить этот эффект? Ответ: вам нужно просто скачать приложение, зарегистрироваться и получить свой собственный компьютер, на котором будет работать ваш помощник, хранить данные и строить вокруг этого безопасную модель. Это похоже на то, что у вас под столом есть свой собственный компьютер — даже мы в Meta не можем получить доступ.

Например, конфиденциальная виртуальная машина Muse — это функция, которую мы разрабатываем, и даже мы не можем видеть содержимое вашей виртуальной машины.

Мы также построили вокруг этого много вещей, таких как безопасное хранение учетных данных — когда вашему помощнику нужно обрабатывать информацию, такую как пароли, ему не нужно видеть эти пароли, ему просто нужно "вставить" учетные данные, когда вы просите его войти в какую-то службу, и делать это только тогда, когда вы явно просите. Система должна быть спроектирована так, чтобы эта информация сама по себе не могла быть доступна без разрешения, потому что случайности всегда могут произойти, кто-то может попытаться взломать, или система может дать сбой.

Поэтому вы должны убедиться, что агент не может получить доступ к этим данным, и Meta тоже не может. Предоставление независимого компьютера для каждого помощника и обеспечение максимальной безопасности — это основа этой технологии — она дает Muse возможность помогать пользователям достигать своих целей и одновременно гарантирует конфиденциальность и безопасность, делая его мировым и отраслевым лидером в этой области.

Ведущий: Значит, это означает, что, как и в WhatsApp, данные на виртуальной машине, к которой подключается Muse, зашифрованы? Как людям понять, как данные фактически хранятся в виртуальной машине?

Марк: Мы в основном построили две версии. Безопасная виртуальная машина Muse (Secure VM) включает в себя различные функции конфиденциальности, включая всю нашу архитектуру агентов Sentinel. У вас есть обычный помощник Muse, который выполняет задачи, и у нас есть агент безопасности, который мы называем Sentinel, который специально контролирует поток данных, входящих и исходящих из вашего Muse.

Если внешнее содержимое пытается нарушить безопасность, Sentinel немедленно отключает его, предотвращая это. Если он считает, что ваш Muse собирается предпринять действие, требующее вашего вмешательства, он перекрывает действия Muse и вызывает уведомление, чтобы человек подтвердил разрешение — например, "Вы хотите, чтобы Muse сделала это?"

Эта вся система, вместе с безопасным хранением учетных данных и многоуровневой защитой, составляет безопасную виртуальную машину Muse.

Мы также разрабатываем другой проект. Nat и я специально наняли Мокси Марлинспайка — того самого человека, который сотрудничал с нами для реализации сквозного шифрования WhatsApp — чтобы спроектировать конфиденциальную виртуальную машину Muse (Confidential VM). Основная идея заключается в том, чтобы на основе безопасной виртуальной машины предоставить вам уникальный шифровальный ключ, так что даже Meta не сможет получить доступ к содержимому.

Эта версия сложнее в реализации, потому что если Meta не может получить доступ к внутренностям виртуальной машины, отладка и обеспечение нормальной работы системы становится гораздо более сложной задачей. Поэтому мы потратили некоторое время, но скоро выпустим её. Это в основном будет соответствовать стандартам безопасности, с которыми люди уже знакомы в WhatsApp и других наших самых безопасных продуктах.

Ведущий: Есть ли преимущества в этом, которые просто создают у людей ощущение большей безопасности, или есть реальные выгоды?

Марк: Я считаю, что безопасность сама по себе очень важна. Наша цель — приблизить вас к тому, чтобы у вас под столом была локальная машина. Что может дать вам эта локальная машина? Это означает, что ни одна компания не сможет получить к ней доступ.

Итак, предположим, что Meta хочет предоставить вам эту услугу, как мы можем обеспечить вам такой же уровень конфиденциальности и безопасности, чтобы ни одна компания — будь то Meta или кто-то, кто пытается нас взломать, или в некоторых странах, где вы не доверяете местному правительству — не могла получить к ней доступ? Потому что мы сами тоже не можем туда попасть, так как у нас нет доступа.

Я считаю, что это очень важно, и это одна из причин, почему люди доверяют WhatsApp. Это реальная ценность для конфиденциальности, безопасности и доверия.

Если у вас есть помощник, который знает о вас всё — я думаю, у почти всех нас есть такой помощник — перемотайте на 5 лет вперёд, у каждого будет помощник, который глубоко понимает ваши цели и всё остальное и может помочь вам с делами. В этом случае очень важно быть лидером в области конфиденциальности и безопасности. Мы хотели сделать это с самого начала.

Как формировать личность ИИ?

Ведущий: У вас есть интересный момент — вы изучали психологию в университете.

Марк: Да, я пробыл там всего два года, но я чувствую, что это повлияло на многие вещи, которые я построил позже.

Ведущий: Когда мы смотрим на модели, мы часто говорим, что какая-то модель "очень умная". Но, как и в выборе друзей, мы выбираем их не только потому, что они умные, но и потому, что нам нравится их энергия и манера общения. Как вы подходите к формированию личности модели?

Марк: Я считаю, что идеальная модель должна быть достаточно адаптивной, чтобы соответствовать стилю разных людей. Я думаю, что многие профессионалы в этой области ошибаются в этом аспекте — многие другие лаборатории сосредоточены на том, "как правильно спроектировать личность", но я никогда не считал личность чем-то фиксированным. Это одна из причин, почему я так верю в открытый код и в то, что люди могут кастомизировать, и это также причина, почему мы сделали Muse высоко персонализированным продуктом.

Вы можете настраивать и персонализировать Muse — не только его внешний вид и голос, но и когда вы впервые регистрируетесь, он спрашивает вас: "Какой основной личностью вы хотите, чтобы я был?", и вы можете в любой момент это изменить.

Мы стараемся сделать модель очень управляемой, чтобы вы могли определить, как хотите взаимодействовать. Это важная часть того, чтобы сделать её отличным личным помощником — эта адаптивность вокруг личности очень важна.

Ведущий: Какой стиль у вашего собственного Muse?

Марк: Я сделал его прямым и ориентированным на эффективность. Это довольно интересно. Ранние версии были очень саркастичными и юмористичными, но сейчас эта версия более прямолинейная. Мой помощник использует стандартный образ Muse, но я одел его в тогу и дал ему глубокий, почти комичный голос, взаимодействовать с ним очень весело.

Ведущий: Я думаю, чтобы иметь чувство юмора, нужно быть действительно умным. Многие не осознают, что комики — это одна из самых умных групп людей в обществе — они должны быстро реагировать и быть остроумными. У вас определенно есть эта черта. Я смотрел все ваши интервью, и вы всегда хорошо себя проявляли.

Неожиданные прогнозы Марка о ИИ и метавселенной

Ведущий: В вашем интервью с Тео вы много говорили о следующем фронте технологий и о том, куда всё это в конечном итоге ведёт. Область ИИ пережила несколько "зим", когда люди думали, что прорыва не будет. Метавселенная также пережила несколько таких периодов, когда все считали, что это бесполезная ставка. Вчера я протестировал новую функцию голографического изображения, это очень круто. В интервью с Лексом казалось, что нужно 11 часов, чтобы записать ваше лицо, а сейчас это занимает всего 3 минуты. Как это стало возможным?

Марк: В общем развитии метавселенной, когда мы создавали Reality Labs, мы всегда считали, что в конечном итоге будут обычные очки с нормальной формой, которые со временем смогут обеспечить как погружающее присутствие, так и стать отличным устройством ИИ — потому что очки — это единственная форма, которая позволяет устройству видеть то, что вы видите, слышать то, что вы слышите, общаться с вами весь день и в конечном итоге отображать изображения.

Но 10-15 лет назад я предполагал, что сначала мы реализуем голографическую технологию, а затем высокоразвитый ИИ. Однако путь эволюции технологий оказался интересным — на самом деле сначала у нас появился ИИ и личный суперум, а затем технологии, которые сделали голографическую технологию достаточно распространённой и доступной. Это было для меня неожиданностью, но я рад, что мы движемся в обоих направлениях.

Наши значительные инвестиции в очки поставили нас в очень выгодное положение, когда наши ИИ-помощники будут готовы. Многие анонсы на конференции Connect касались внедрения Muse и множества функций ИИ в очки, и я думаю, пользователи будут очень довольны. Это большое дело.

Что касается погружающего присутствия, мы всё ещё движемся вперёд, но темпы относительно медленные, потому что большая часть нашего внимания уже сосредоточена на создании Muse и функций ИИ для очков. Тем не менее, у нас есть давний проект — это реалистичные виртуальные аватары в реальном времени.

Как вы сказали, три-четыре года назад вам нужно было целое сканирующее помещение, чтобы записать человека с разных углов, и вам также нужен был корпоративный GPU для рендеринга, это было очень хлопотно. Демонстрация, которую мы сделали для подкаста Лекса, именно такая. А сейчас мы в основном сделали так, чтобы это работало в паре с VR-очками — это первая пара очков, которая может обеспечить такой удивительный VR-опыт, а не громоздкий шлем. Вам нужно всего лишь несколько фотографий, чтобы создать ваш виртуальный аватар, прогресс просто потрясающий.

Ведущий: И это также может управлять выражениями на основе звука. В демонстрации он заставил меня смеяться, взаимодействовать, а затем понять, как моё лицо движется в соответствии со звуковой дорожкой. Вы упомянули в том подкасте, что некоторые люди, которые обычно сдержанны в выражениях, на самом деле хотят более ярких выражений в виртуальном мире. Как вы относитесь к тому, что люди различают "виртуальное я" и "реальное я"?

Марк: Я думаю, что мы всё ещё находимся на очень ранней стадии в понимании социологии и психологии в этом отношении. Я считаю, что восприятие людьми себя и образа, который они хотят проецировать, часто отличается от их реального "я". С момента появления социальных сетей люди тщательно выбирали свои аватары. Мы также видим подобное явление в виртуальном образе Muse. Это не совсем "кураторство" себя, а "кураторство" того "человека", с которым вы хотите общаться.

Я считаю, что когда вы предоставляете людям возможность выразить себя, вы хотите, чтобы это действительно отражало их, и в то же время это само по себе является формой выражения, а не просто чистым зеркальным отображением — это и передача, и выражение. Мы надеемся создать что-то, что учитывает оба аспекта. Это всегда итеративный цикл: смотреть, как люди используют, а затем улучшать. После многих лет работы мы наконец находимся на старте — впервые мы можем действительно интегрировать достаточно качественные реалистичные аватары в продукт, который можно использовать на телефоне и в VR. Я с нетерпением жду результатов.

Каков будет 2030 год?

Ведущий: Хорошо, перенесите меня в ваше мышление, перемотайте на 2030 год, если всё пойдёт хорошо, как будет выглядеть голографическая технология? Голограммы, Muse и очки, как они будут объединяться?

Марк: Я всегда понимал видение метавселенной как эффективное слияние физического и цифрового мира. Основная идея заключается в том, что у нас есть этот прекрасный физический мир, а также замечательный цифровой мир — огромное количество контента, накопленного в Интернете за 20-30 лет, что просто потрясает. Но способ, которым мы к нему обращаемся, либо сидя за столом, либо через маленький экран в кармане, по сути, очень ограничен.

Я считаю, что идеальная версия этого — это бесшовное слияние физического и цифрового мира. Можно представить так: сейчас мы оба здесь. В будущем, в какой-то версии, один из нас может быть голографическим проекцией, но вы всё равно будете чувствовать, что находитесь в реальном присутствии друг друга, что совершенно отличается от видеозвонка.

А суть виртуальной реальности заключается в передаче этого погружающего присутствия — дать вам возможность действительно почувствовать, что вы находитесь в одной комнате с другими или находитесь в другом месте. Вы можете реализовать это с помощью голографической технологии и смешивать её различными способами. Например, я могу сыграть в покер с друзьями, часть из которых присутствует, а другая часть присоединяется через голографические образы, и они тоже могут играть, а сам покерный стол может быть голографическим, так что отсутствующие люди тоже могут быть вовлечены.

В то же время ИИ также может быть наделён физическим телом и появляться в этой сцене. Это имеет смысл в рабочих ситуациях — я сейчас использую различные программные агенты для создания вещей. Представьте себе: у вас есть канал группового чата, в котором несколько людей и несколько агентов, вы назначаете задачи агентам. Но иногда все собираются на встречу, и агенты тоже должны быть там. Как они могут появиться? Очень просто, на диване просто добавляется несколько мест, и они появляются в виде голографических образов. Или с помощью милого персонажа Muse, или дракона, или любого странного образа, который вы создадите.

Я предполагаю, что в будущем это будет казаться довольно естественным.

Ведущий: Интересно. Вы ранее упоминали в интервью, что технологическая индустрия часто забывает о том, что "это должно быть весело". Я думаю, что наличие физического помощника там также сделает ощущение более реальным — как будто вы действительно делегируете работу. Когда вы видите, как Muse печатает, создаётся ощущение, что что-то действительно происходит. Это сделано очень хорошо — вы можете видеть, что происходит в браузере. Так вы считаете, возможно ли создать такую ситуацию: вы носите очки и управляете своим компьютером, позволяя Muse делать дела на компьютере?

Марк: Да, совершенно верно. Мы только что представили эту функцию на конференции Connect. Теперь все очки подключены к Meta AI, это "одинарный" опыт ------ вы отправляете подсказку, он отвечает, и все. Но с Muse мы в основном собираемся обновить все очки до Muse. Во-первых, вам больше не нужно говорить "Эй, Meta", вы можете назвать его любым именем, и это уже часть удовольствия. Затем вы просто говорите с ним, он подключается к вашему Muse, ваш Muse обрабатывает задачи в вашей безопасной виртуальной машине и помогает вам справляться с делами.

Ведущий: Это потрясающе!

Мышление основателя

Ведущий: Хорошо, мы сейчас здесь, Muse продвигается очень хорошо, очки тоже неплохи, но около года назад многие спрашивали: "Что случилось с суперумной лабораторией?" Как вы себя чувствовали в тот момент? Каково это, когда дела идут не так, как вы ожидали, но вы видите долгосрочную перспективу?

Марк: На самом деле проблема заключалась в проекте Llama и Llama 4.

Llama 1 — это довольно интересная модель, она положила начало всему движению открытого ИИ, и мы гордимся этим. Llama 2 достигла масштабируемости, Llama 3 была хорошей моделью, которая почти достигла передового уровня на тот момент. Затем, когда мы дошли до Llama 4, мы в основном отклонились от правильного пути развития.

Каждый раз, когда дела не идут так, как я ожидал, я трачу много времени на размышления: почему это происходит? Что нам нужно изменить, чтобы сделать лучше? На этот раз я пришел к выводу, что я ошибся в структуре всей команды.

Я смоделировал это так, как мы делаем машинное обучение для Instagram-ленты или рекламной системы ------ сотни или даже тысячи людей работают параллельно над многими вещами. Но для построения языковой модели вам действительно нужна очень компактная команда, которая рассматривает это как научный проект. Людей не должно быть много, но это означает, что каждое место в команде крайне ценно.

Поэтому мы собрали лучших людей из Meta и привлекли много талантливых людей из отрасли, создав совершенно новую команду ------ это Meta суперумная лаборатория.

С моей точки зрения, когда MSL была запущена, я знал, что потребуется время для перезапуска, восстановления инфраструктуры, обучения следующего поколения моделей. Но я знал, что мы собрали отличную команду, и если команда сможет хорошо сработаться и функционировать, результат будет отличным.

Для меня самый захватывающий момент, на самом деле, произошел после выпуска Llama 4 ------ я думал, что мы на правильном пути, но оказалось, что это не так. Это было довольно большим негативным сюрпризом. Я думаю, как предприниматель, вы всегда будете испытываться в такие моменты, потому что неизбежно не все будет гладко. А то, что действительно определяет траекторию развития, это то, как вы находите путь вперед, когда дела идут не так, как вы хотите.

Ведущий: Я предполагаю, что наоборот тоже верно ------ когда что-то превышает ваши ожидания, например, запуск Muse, как вы уверены, что сможете воспользоваться этой возможностью?

Марк: Это абсолютно так. Теперь вся компания вовлечена ------ изначально это была небольшая команда по разработке продукта, но теперь все понимают, что это действительно готово выйти на большую сцену. Вся компания думает, как масштабировать это, как сделать так, чтобы миллиарды людей могли это испытать.

От оптимизации всей инфраструктуры для плавной работы, до использования каждой капли вычислительной мощности существующих GPU, до того, как разные продуктовые команды интегрируют Muse различными способами ------ например, в очках. Видеть, как все работают вместе, чтобы обеспечить успешное масштабирование Muse, это потрясающее чувство.

Как Марк формулирует и передает видение

Ведущий: Как основатель, я думаю, это тот момент, к которому вы стремитесь ------ все сходится воедино. Как вы передаете видение компании? В условиях одновременного продвижения множества дел, мне кажется, вы написали много. Каков ваш процесс?

Марк: Письмо очень помогает мне, оно помогает мне уточнить свои мысли и передать их внешнему миру. Этим летом я написал длинную статью под названием "Будущее принадлежит всем", около 15 страниц, которая помогла мне систематизировать свои философские позиции по различным важным социальным вопросам, связанным с ИИ: что я считаю хорошим, как должно выглядеть взаимодействие с правительством, как предотвратить различные опасения людей, как сделать так, чтобы центры обработки данных стали богатством для сообщества, действительно создавая рабочие места, а не уничтожая их, как поддерживать национальную безопасность, как реально смягчить риски, которые беспокоят людей ------ будь то хакерские атаки или биобезопасность.

Это очень сложная задача, она заняла много времени, я общался с многими людьми, прошел через множество раундов правок, многие внутренние люди участвовали в обсуждениях и дебатах. Но для меня это был очень ценный процесс. В конце концов, у нас получился такой документ ------ 15 страниц, "вот во что мы верим". Затем я сократил это до одностраничной версии и опубликовал как колонку. Мы также сделали короткое видео, потому что я считаю, что для того, чтобы достучаться до многих людей, вам часто не нужно представлять целую теоретическую аргументацию, а нужно сжать это до: каковы ваши ценности, во что вы верите, как вы это передаете.

В передаче этих аспектов компании или миру нет универсального подхода. В разные времена нужны разные методы, разные группы людей, некоторые из которых естественно поддерживают то, что вы делаете, а другие более обеспокоены, и вам нужно вести их за собой, требуя дополнительных усилий, чтобы объяснить, почему это ценно. Я считаю, что это часть ведения бизнеса, частью того, что значит быть основателем ------ вы не повторяете одно и то же снова и снова, каждая ситуация немного отличается, возникают новые вызовы, и это тоже делает это интересным.

Что движет Марком к строительству?

Ведущий: Я думаю, что для вас это мышление основателя распространяется за пределы компании ------ будь то ваша ферма или изучение нового навыка.

Марк: Мне просто нравится создавать вещи.

Ведущий: Так что для вас "строительство" — это какое ощущение?

Марк: Я думаю, что это внутренняя потребность. У разных людей разные способы самовыражения. Если вы писатель, вы чувствуете, что должны писать. У некоторых людей есть потребность в признании. Но мне просто нужно строить вещи. Если я не использую свою креативность и не строю что-то, я становлюсь раздражительным. Это не очень приятно для окружающих.

Ведущий: Учиться быть отличным лыжником и учиться строить продукт — это одно и то же умение?

Марк: В некотором смысле да, процесс изучения нового довольно похож. В своей жизни я сознательно бросал вызов себе в том, что мне не очень удается. Например, я всегда был очень плох в изучении языков. На самом деле, это причина, по которой я начал учить латинский ------ я никак не мог выучить французский и испанский в классе, в конце концов я подумал: ну ладно, латинский не нужно говорить, только переводить, как математика.

Позже, когда я начал вести компанию, я поставил перед собой годовые вызовы, и один из них был изучение мандаринского. Мандарин действительно очень сложен, особенно с точки зрения тонов. Конечно, есть веские причины для его изучения ------ бабушка Присциллы говорит только на мандаринском, так что если я хочу с ней общаться, мне нужно учить. Но наибольшая мотивация на самом деле заключается в самом вызове.

Все эти вещи вы можете только делать, нет никаких коротких путей, чтобы "понять". Вы можете только потратить время, и тогда это постепенно проникает в ваш мозг. Изучение боевых искусств, изучение управления вертолетом ------ это тоже самое ------ эти вещи на самом деле трудно "понять" разумом, они требуют практического опыта.

Строительство продукта также включает в себя такую часть. Программирование можно рассматривать теоретически, но интуиция, необходимая для построения продукта, может быть развита только через практический опыт. Проблема только в том, что вам нравится ------ потому что я считаю, что не все имеют такую же сильную потребность в строительстве, как у меня, большинство людей имеют какую-то степень потребности, главное — найти, что это такое, а затем вложить время, чтобы стать действительно выдающимся в этом.

Честно говоря, я думаю, что это не просто "желание", это более глубокая психологическая потребность или движущая сила. Совместить эту движущую силу с чем-то и дать себе время, чтобы эти опыты постепенно проникали и оседали, это очень важно. Это то, что я пытаюсь научить детей ------ находить то, что им действительно интересно, но если они сталкиваются с препятствиями, тоже нужно немного подтолкнуть их.

Одна из моих дочерей очень любит создавать музыку, но она просто не может терпеть занятия на пианино. Я сказал ей: "Тебе не нужно становиться мастером пианино, но если ты хочешь создавать музыку, тебе нужно интуитивно понимать теорию музыки и как она работает. И как только ты научишься играть на пианино, ты сможешь сразу же взять гитару." Я думаю, что как детям нужно, чтобы родители немного подтолкнули их, так и взрослым важно дисциплинированно сесть и позволить этим вещам постепенно оседать в мозгу.

Золотой век строителей

Ведущий: Я думаю, что на самом деле каждый хочет строить. Я считаю, что поколение Z не так низкоактивно, как критикуют извне. Я думаю, что люди просто ищут искру, которая разожжет их строительную силу. Вы также много говорили об этом в своей речи в Гарварде.

Марк: Да. Я говорю о "строительстве", в основном имея в виду такие продукты ------ программное обеспечение, аппаратное обеспечение и тому подобное. Но я согласен, я думаю, что у каждого есть какая-то творческая движущая сила. Однако у некоторых людей есть другие более сильные черты характера, которые подавляют это, например, стремление к служению ------ те, кто становится врачами или медсестрами, их основная движущая сила заключается в том, что "я просто хочу заботиться о других".

Я слышал историю, возможно, это то, что Присцилла пережила в медицинской школе: в первый день учебы кто-то встал и спросил: "Сколько из вас в детстве имели такие воспоминания ------ увидев кого-то, думали 'я действительно хочу заботиться об этом человеке'?" В результате все подняли руки. Для меня моя версия такова: у меня много воспоминаний из детства о том, что "я хочу сделать эту вещь лучше".

Не у всех есть одинаковая движущая сила, но у каждого есть что-то, что они хотят делать. Я согласен, что с предыдущими технологиями для многих людей начать было сложно. Это также то, что меня больше всего волнует в личном суперумном, Muse и различных AI-ассистентах ------ я считаю, что это первый раз в истории, когда люди действительно могут быстро начать. У вас есть смутная идея, ИИ может помочь вам очертить контуры, а затем вы можете ее отшлифовать, как при создании скульптуры, не нужно заранее все знать.

Я считаю, что это очень мощно, и многие люди благодаря этому найдут то, что они хотят создать или продвинуть. Это поможет людям почувствовать более широкую активность.

Насколько мы близки к преодолению всех болезней?

Ведущий: Ваш другой проект вне Meta — это преодоление всех болезней. Мне любопытно, во-первых, насколько близки мы к цели?

Марк: Гораздо ближе, чем раньше.

Ведущий: Как вы думаете, насколько близко это выглядит на практике?

Марк: Когда мы изначально запустили этот проект, цель заключалась в том, чтобы помочь научному сообществу преодолеть все болезни к концу века. Мы никогда не собирались делать это самостоятельно, наша теория заключалась в том, что все значительные научные достижения предшествуют новым инструментам, которые позволяют измерять и понимать определенные вещи. Например, изобретение микроскопа, после чего мы поняли бактерии; с телескопом мы поняли вселенную.

Эти инструменты стали платформами ------ например, первый человек, изобретший вакцину, после этого люди смогли лечить многие болезни с помощью этого метода.

Но на протяжении истории способы финансирования науки всегда были широко распределены, позволяя каждому заниматься индивидуальными исследованиями, и на самом деле средств для создания этих крупных инструментов было немного. То, что мы пытаемся сделать в Biohub, это разработать несколько новых инструментов, чтобы дать людям новые способы "увидеть" биологию и помочь научному сообществу ускорить прогресс.

Изначально мы считали, что "к концу этого века" — это вполне достижимая цель, многие биологи тогда думали, что это невозможно. Но сейчас я думаю, что конец века — это слишком долго.

Прогресс в области ИИ, вместе с виртуальными клеточными моделями, которые мы разрабатываем — основная идея которых заключается в том, чтобы не проводить эксперименты на реальных живых клетках, а использовать модели ИИ для симуляции белков, затем симуляции клеток, а затем симуляции виртуальной иммунной системы или целого организма, даже целого человека. Это позволит ученым проводить множество экспериментов, моделируя, что произойдет в различных ситуациях, например, если кто-то примет это лекарство, какие реакции будут в организме.

Я не хочу указывать точное число, но я предполагаю, что это произойдет гораздо раньше конца века.

Ведущий: Формулировка цели "покорить все болезни" кажется очень преднамеренной, а не "достичь бессмертия". Бессмертие — это возможно?

Марк: Это не совсем та область, в которой я глубоко разбираюсь. Я считаю, что это две разные вещи. "Бессмертие" больше связано с продлением — даже если вы не заболеете, человеческое тело имеет естественную ожидаемую продолжительность жизни, это отдельная проблема, которую нужно исследовать. Некоторые могут считать это тоже "болезнью", это разумная точка зрения, но я считаю, что людям также нужно одновременно работать над теми болезнями, которые все равно будут вызывать заболевания, даже если вы решите проблему продолжительности жизни.

Выбранная нами часть проблем не означает, что вы никогда не заболеете. Мы говорим о "лечении, профилактике или управлении": некоторые болезни могут быть полностью излечены; некоторые, я думаю, мы сможем предотвратить в будущем; а некоторые, возможно, вы все равно заболеете, но те вещи, которые изначально могли бы причинить реальный вред или даже отнять жизнь, вы теперь можете управлять как хроническим состоянием, которое не будет существенно влиять на качество вашей жизни.

Цель состоит в том, чтобы поддерживать человеческое тело в сбалансированном состоянии — не в том, что мы никогда не будем сталкиваться с патогенами, а в том, что в один прекрасный день мы сможем лечить, предотвращать и управлять всеми болезнями.

Какова самая частая мысль, возникающая в голове Марка?

Ведущий: ИИ выступает как катализатор во многих различных прорывах, включая личный интеллект. О чем вы сейчас чаще всего думаете? Какие мысли приходят вам в голову в этом процессе?

Марк: Это может меняться каждую неделю.

Сейчас я очень сосредоточен на Muse. Каждый раз, когда мы выпускаем что-то новое, быстро продвигаемся вперед, затем взаимодействуем с реальным миром, узнаем отзывы людей и выясняем, что делать дальше — этот этап всегда захватывающий. Мы сейчас находимся на этом этапе, собирая много информации, чтобы понять, что людям нужно. Хорошая новость в том, что людям это очень нравится, поэтому мы стараемся сделать так, чтобы как можно больше людей могли это использовать.

В модели еще много работы, прогресс в модели Muse Spark значителен, и мы надеемся продолжать развиваться, стремясь создать модель мирового уровня.

Какие прорывы нужны на следующем этапе?

Ведущий: Какие еще прорывы необходимы?

Марк: Исследуя такие вещи, вы не всегда можете заранее предсказать. У нас есть некоторые предчувствия по определенным направлениям, но большая часть работы за последний год на самом деле заключалась в расширении инфраструктуры.

Примерно полтора года назад больше людей говорили, что для достижения суперинтеллекта нужны некоторые фундаментальные архитектурные прорывы. Но сейчас я не уверен, что это действительно так. Я считаю, что мы уже достаточно понимаем "рецепт" — если вы сможете построить достаточно большой кластер суперкомпьютеров, вы сможете достичь этого с помощью грубой вычислительной мощности.

Мы строим кластер в Огайо мощностью более 1 тысячи мегаватт, он практически уже запущен, и мы используем его для обучения моделей следующего поколения. Затем будет кластер в Луизиане мощностью 5 тысяч мегаватт, который скоро будет введен в эксплуатацию. Я предполагаю, что когда у вас есть кластер мощностью в тысячи мегаватт для обучения, вы в основном сможете достичь чего-то близкого к AGI, а возможно, даже суперинтеллекта выше AGI.

Но это не означает, что это лучший способ. Человеческий мозг может работать всего на 10 ватт, в то время как эти вычислительные системы, которые мы строим, примерно в миллион раз менее эффективны, чем человеческий мозг. Поэтому я действительно считаю, что в архитектуре есть пространство для улучшения, и мы также стараемся исследовать — если объединить огромную вычислительную мощность и улучшения в архитектуре, вы действительно сможете построить что-то, что будет лидировать в мире. Но на данный момент масштабирование само по себе может привести нас очень далеко.

Ведущий: Действительно, масштабирование — это самый надежный путь. В исследованиях вы должны надеяться на значительные прорывы, но масштабирование может быстро дать результаты.

Марк: Именно поэтому крупные компании выбирают этот путь. Возможно, существует гораздо более дешевый способ, но мы пока не знаем. И это такая ценная вещь для мира, что даже если потребуется потратить сотни миллиардов, если вероятность достижения достаточно высока, это все равно стоит делать — гарантировать, что даже если в конечном итоге не будет найдено более дешевое решение, у вас все равно будет четкий путь к его реализации. Конечно, если вы найдете более дешевый способ, это будет еще лучше.

Поэтому я не хочу говорить, что этот вопрос "уже решен", потому что на каждом этапе расширения инфраструктуры вы столкнетесь с различными новыми инженерными проблемами, которые нужно будет отладить. Исследование само по себе — это итеративный процесс.

Как выиграть битву за безопасность ИИ

Ведущий: Одним из самых важных вещей сейчас, возможно, является сосредоточение на выравнивании (alignment), чтобы сделать модели надежными.

Марк: Да. В отношении выравнивания в индустрии идет дискуссия: будут ли эти лаборатории ИИ естественным образом заниматься этим? Моя точка зрения: конечно, будут. Если вы скажете Muse сделать что-то, а она сделает совершенно противоположное, я не знаю, сколько людей все еще захочет ее использовать. Мы должны убедиться, что модель понимает не только то, что вы конкретно спросили, но и ваши намерения и ценности, чтобы она не делала это так, как вам не нравится, или не вызывала негативные последствия, которых вы совершенно не хотите. Это глубокое понимание, по сути, и есть выравнивание.

Поэтому я считаю, что для успеха Muse и достижения миллиардов людей мы должны добиться реального прогресса в выравнивании, а не просто говорить об этом.

Ведущий: Выравнивание достигается через обратную связь от пользователей "это не то, что я хотел", или это происходит благодаря вашим внутренним механизмам?

Марк: Оба варианта. Обратная связь от пользователей есть, но я думаю, что становится все более очевидным: вам нужно заниматься выравниванием на этапе обучения, а не только после развертывания. Теперь модель достаточно умна, и если вы не сделаете это на этапе обучения, большинство тех проблем с безопасностью и инцидентов, которые мы видим в других лабораториях, происходят в процессе обучения, а не после развертывания для пользователей.

Вам нужно разработать для нее очень хорошую "программу", как родители учат детей, устанавливая четкие границы. Если она делает что-то неправильное, она должна научиться "нет, ты действительно должен решить эту программную задачу, а не обойти ее, изменив какую-то системную настройку, чтобы получить награду" — я хочу, чтобы ты научилась этому через реальный процесс решения задач, именно в этом и заключается смысл обучения.

Это в значительной степени связано с созданием хороших механизмов безопасности и четких границ. Это естественная работа, которую индустрия должна выполнять, и мы тратим много времени на это, каждый день ситуация разная.

Ведущий: Я помню, вы говорили, что вопрос безопасности ИИ — это… кажется, за последние две недели он вдруг стал в центре внимания, но на самом деле не было никакого единственного события, которое бы спровоцировало этот момент. Похоже, вы имеете в виду, что мы на самом деле потратили несколько месяцев на внутреннее обучение.

Марк: Для Muse мы знаем, что этот продукт должен очень серьезно относиться к конфиденциальности и безопасности. У нас есть ранняя версия модели, которая, как мы считаем, может быть дополнительно обучена на некоторых поведениях, связанных с "степенью раскрытия информации" — как мы обсуждали ранее. Поэтому мы потратили время на это. Мы также потратили время на то, чтобы сделать виртуальные машины более безопасными. Это заняло несколько дополнительных месяцев.

Я не совсем согласен с утверждениями некоторых других лабораторий — "мы терпим огромные страдания, чтобы замедлить темп". Для меня это правильный шаг как для Meta, так и для пользователей Muse. Мы хотим сделать продукт хорошим, и если продукт недостаточно хорош, это плохо для пользователей и для нас — мы не хотим выпускать что-то, что оставит у людей плохое первое впечатление, после чего они потеряют интерес.

Я считаю, что все лаборатории имеют очень сильную внутреннюю мотивацию сделать это правильно. Если вы сможете согласовать механизмы стимулов с целью "крайне ценно и безопасно", это и есть ключ к успеху.

Ведущий: Большое спасибо, что нашли время в эту важную неделю.

Марк: Спасибо вам, спасибо.