суперум

Илон Маск заявил, что он согласен с некоторыми взглядами Anthropic и, прочитав внутренние траектории вывода Grok, возникшие в процессе обучения с подкреплением, предупредил, что не следует "мучить суперинтеллект (SI)". Он описал эту ситуацию как человека, находящегося под экстремальным давлением, с пистолетом, прижатым к его голове.

Генеральный директор Microsoft Сатья Наделла опубликовал статью, обсуждающую архитектуру доверия в эпоху суперразумов. Он отметил, что традиционное программное обеспечение может отслеживать поведение до конкретных кодовых путей, в то время как современные системы суперразума лишены такого механистического понимания и не могут связать поведение модели с конкретными данными для обучения или конфигурацией весов, но при этом они внедряются и имеют доступ к чувствительным данным, выполняя ключевые действия от имени пользователей. Он заявил, что нельзя передавать ответственность за интеллектуальное поведение поставщикам моделей, и нельзя воспринимать суперразум как многослойную черную коробку, принимая или отвергая его предложения и действия.Наделла предложил отделить поставку интеллекта от его авторизации, окружив недетерминированные модели системами с определенной архитектурой, человеческим контролем и операционными процедурами, а также установить отраслевые стандарты в случае недостаточности существующих. Он рекомендовал рассматривать передовые модели с закрытыми и открытыми весами как внутренние риски, не потому что они обязательно злонамеренные, а потому что субъекты с достаточной мощностью и доступом к важным системам могут ошибаться или быть взломаны. К таким мерам относятся создание идентификаций, ограничение прав доступа, запись активности и установка изолирующих границ, а прозрачность цепочки мышления модели должна стать непереговорной отправной точкой.Он также отметил, что контроль прав и действий должен находиться вне модели, а модель, уровень оркестрации и пространство действий должны быть разделены. Принципы включают избегание зависимости от одной модели как единственного источника важных результатов или проверки своей работы, ключевые действия должны оставлять доказательства, защищенные от подделки и читаемые человеком, постоянное тестирование на сбои, атаки и крайние ситуации, организация должна независимо решать о доступе и правах на действия, проверка должна быть независимой от проверяемого интеллекта, предположение о том, что модель была взломана, и поддержка возможности приостановки или отключения, а также своевременное раскрытие и обмен уроками в случае сбоя или взлома. Он подытожил, что самые надежные системы суперразума — это те, которые требуют от людей наименьшего доверия к моделям.

NVIDIA заявила, что цель состоит в том, чтобы усилить исследовательские и разработческие возможности США в области суперумного интеллекта, чтобы сохранить лидерство США в этих областях.

Президент США Дональд Трамп объявил о создании "Рабочей группы по суперинтеллекту" (SIF), чтобы координировать соответствующую работу федерального правительства и обеспечить, чтобы США продолжали оставаться лидером в области суперинтеллекта.Эта рабочая группа возглавляется директором национальной разведки Джейем Клейтоном и направлена на защиту интересов американцев и улучшение качества жизни.

Генеральный директор Coinbase Брайан Армстронг опубликовал сообщение на платформе X, в котором заявил, что Coinbase разрабатывает финансовые счета для суперумного, охватывающие такие услуги, как торговля, платежи и кредитование.Этот счет может помочь пользователям накапливать богатство и управлять личными финансами, а также предоставить независимые счета команде AI Agent, чтобы они могли выполнять больше задач от имени пользователей.

Президент США Дональд Трамп во вторник по местному времени на Генеральной Ассамблее ООН заявил, что все документы правительства США в будущем будут называть искусственный интеллект "суперумом". Трамп отметил, что США решительно против любых попыток создать глобальный механизм для ограничения искусственного интеллекта и сказал, что слово "искусственный" заставляет интеллект звучать как нечто фальшивое, хотя это не так.Трамп далее заявил, что с этого момента все документы правительства США будут использовать более точное выражение "суперум" и приветствовал приход нового мира суперума, добавив, что тот, кто выиграет в этой области, сможет одержать победу, и что США в настоящее время значительно опережают другие страны. Ранее он проводил опрос в социальных сетях, предлагая переименовать искусственный интеллект в "суперум", "высший интеллект" или "абсолютный интеллект".Говоря о регулировании, Трамп отметил, что если это будет необходимо, Министерство юстиции США и другие правоохранительные органы будут контролировать связанные риски и подчеркнул, что не позволит задушить развитие технологии, масштаб которой превысит промышленную революцию. Генеральный секретарь ООН Антониу Гутерриш в тот же день призвал мировых лидеров усилить регулирование искусственного интеллекта.

Трамп опубликовал сообщение, в котором многие считают, что название "искусственный интеллект" не является точным и достаточно элегантным, и предложил три альтернативных названия: "супер интеллект (Superior Intelligence, SI)", "экстремальный интеллект (Extreme Intelligence, EI)" и "высший интеллект (Supreme Intelligence, SI)".Трамп также запустил голосование, спрашивая общественность, какое название лучше всего подходит для описания этой продолжающейся "революции". Скриншот показывает, что в голосовании на тот момент участвовали 2370 человек, осталось около 1 дня.

Генеральный директор Microsoft Сатья Наделла в посте на X заявил: любое стремление к суперинтеллекту должно основываться на основных принципах, а именно на том, что если создаваемый нами ИИ не может помочь человечеству и находится под контролем человека, то его не стоит преследовать.Он также отметил, что необходимо ускорить и широко распространить преимущества ИИ, чтобы они широко распространились в странах, сообществах и компаниях, что требует передовой экосистемы, в которой как закрытые, так и открытые модели могут процветать. Для бизнеса необходимо сохранить полный контроль над своими уникальными и скрытыми знаниями, каждая организация должна иметь возможность создавать свой собственный цикл непрерывного обучения, не полагаясь на какого-либо единственного поставщика моделей, и внедрять свои знания в контролируемые модели и веса.Наделла отметил, что приветствует исследования, внимание и осторожный темп, необходимые для правильной настройки, а также идеи, такие как "встроенные оценщики". Это не может контролироваться несколькими сущностями, необходимо, чтобы в экосистеме, странах и включая академическую среду была широкая представительность. Подход Microsoft заключается в широком доступе и выборе на каждом уровне стека ИИ, контроле бизнеса над циклами обучения и моделями, а также в публикации "Кодекса поведения" собственного MAI модели для общественного обсуждения завтра.