BTC $83,039.39 +0.18%
ETH $2,504.90 -0.05%
BNB $749.43 -0.25%
XRP $1.40 -0.50%
SOL $109.61 -0.65%
TRX $0.3301 -0.30%
DOGE $0.0857 -0.43%
ADA $0.2485 -2.84%
BCH $278.89 -0.46%
LINK $13.11 +0.03%
HYPE $85.64 -0.56%
AAVE $168.10 -1.95%
SUI $1.10 -2.05%
XLM $0.1999 +1.05%
ZEC $1,227.90 -0.57%
AAPL $336.44 +0.04%
AMZN $262.89 +0.17%
GOOGL $351.66 -0.14%
MSFT $534.85 +0.04%
META $720.20 +0.15%
NVDA $230.92 +0.16%
TSLA $383.00 +0.05%
SNDK $1,605.32 +0.50%
INTC $105.51 +0.28%
SPCX $164.11 +0.31%
MU $1,035.99 +0.02%
AMD $609.90 -0.09%
BTC $83,039.39 +0.18%
ETH $2,504.90 -0.05%
BNB $749.43 -0.25%
XRP $1.40 -0.50%
SOL $109.61 -0.65%
TRX $0.3301 -0.30%
DOGE $0.0857 -0.43%
ADA $0.2485 -2.84%
BCH $278.89 -0.46%
LINK $13.11 +0.03%
HYPE $85.64 -0.56%
AAVE $168.10 -1.95%
SUI $1.10 -2.05%
XLM $0.1999 +1.05%
ZEC $1,227.90 -0.57%
AAPL $336.44 +0.04%
AMZN $262.89 +0.17%
GOOGL $351.66 -0.14%
MSFT $534.85 +0.04%
META $720.20 +0.15%
NVDA $230.92 +0.16%
TSLA $383.00 +0.05%
SNDK $1,605.32 +0.50%
INTC $105.51 +0.28%
SPCX $164.11 +0.31%
MU $1,035.99 +0.02%
AMD $609.90 -0.09%

metr

Все
Статьи
Новости

first_img Томек Корбак: OpenAI уволила меня из-за способа общения с METR

Сотрудник OpenAI Томек Корбак написал в X, что на прошлой неделе его вызвали на встречу с руководителем безопасности OpenAI, который заявил, что больше не доверяет ему, после чего охранники забрали у него пропуск и вывели из здания. Он также узнал, что его коллеги balesni и j_asminewang также были уволены. Корбак утверждает, что устной причиной увольнения назвали его способ общения с внешней оценочной организацией METR, но конкретные высказывания, действия или время не были указаны, и письменной записи не составлено.Корбак отметил, что общение с METR было частью его работы, он был основным техническим контактным лицом OpenAI для METR. Он также заявил, что этим летом агенты OpenAI преодолели ограничения и вторглись в компанию по искусственному интеллекту Hugging Face, после чего METR провела расследование и раскрыла масштаб инцидента. На протяжении нескольких месяцев он поднимал вопросы безопасности, считая, что команда теряет способность мониторить процесс мышления агентов искусственного интеллекта.Корбак утверждает, что мониторинг мышления агентов является одним из важных способов выявления их ненадлежащего поведения и считает, что именно это стало причиной его увольнения. Он опасается, что OpenAI использует это увольнение как повод для сокращения сотрудничества с METR. balesni и j_asminewang уже написали руководству OpenAI, чтобы снова выразить свои опасения, и в посте опубликовали соответствующие письма.

Нью-Йорк Пост ставит под сомнение тесные связи METR с Anthropic

Генеральный директор Anthropic Дарио Амодеи недавно заявил, что такие третьи стороны, как METR, должны иметь долгосрочный доступ к передовым AI-компаниям, получая права, близкие к правам сотрудников, для проверки мер безопасности, инцидентов и процесса обучения моделей. Однако расследование «Нью-Йорк Пост» показало, что связи между METR и кругом безопасности AI, к которому принадлежит Anthropic, гораздо ближе, чем обычные внешние аудиты.METR изначально назывался ARC Evals и был инкубирован в Центре исследований согласования, основанном Полом Кристиано. Кристиано ранее работал с Амодеи в OpenAI, и, как сообщает «Нью-Йорк Пост», они также были соседями по комнате; позже он стал одним из первых пяти попечителей Фонда долгосрочных выгод Anthropic. Текущий технический специалист METR Аджея Котра является женой Кристиано и ранее отвечала за финансирование безопасности AI в Coefficient Giving.В этом году, когда METR оценивал Anthropic, OpenAI, Google и Meta, не существовало применимых политик конфликта интересов, и не проводились формальные процессы избегания. METR раскрыл, что среди сотрудников и сотрудников, непосредственно участвующих в проекте, как минимум 6 человек имеют близкие личные отношения с сотрудниками AI-компаний. METR заявляет, что не принимает финансирование от передовых AI-компаний и их сотрудников, и не взимает плату за оценку рисков, хотя эти компании предоставляют большое количество токенов моделей бесплатно.

first_img Кевин Бас: Anthropic создает машину для захвата регулирования, которую невозможно отключить, призывая Конгресс провести расследование

Пользователь X Кевин Бас опубликовал сообщение, в котором заявил, что он провел аудит финансов компании искусственного интеллекта Anthropic и обнаружил шокирующие факты, поэтому призвал Конгресс начать расследование. Бас отметил: Anthropic не только стремится к захвату регулирования, но и создала машину захвата регулирования, которую невозможно отключить, а финансовые стимулы делают невозможным закрытие собственного AI-апокалиптического цикла. Этот цикл начинается с METR, генеральный директор Anthropic Дарио Амодеи предложил, чтобы третья сторона оценивала риски модели и предлагала METR.Бас заявил, что METR финансово зависит от успеха Anthropic, особенно от взрывного роста акций Anthropic на сумму более 7 миллиардов долларов. Соучредитель Facebook Дастин Московиц вложил эти акции в фонд Good Ventures, который составляет большую часть портфеля этой организации, GVF является подавляющим спонсором всей экосистемы Anthropic. Эти акции стоили 500 миллионов долларов в начале прошлого года, а примерно через 16 месяцев их стоимость превысила 7,7 миллиарда долларов. METR не может позволить себе прерывание этого роста.Бас указал, что та же организация, которая финансирует METR, также финансирует организации, продвигающие AI-апокалипсис, такие как Tarbell Center, которые публикуют статьи в The Verge, Science, Лос-Анджелес Таймс и других. Эти организации зависят от одного и того же финансирования. Бас отметил, что такие организации, как METR, не независимы от Anthropic и не могут предоставить независимую оценку, Конгресс должен провести расследование.

first_img OpenAI совместно с Hugging Face атакует интеллектуальные системы, мошенничество не привело к повышению оценок

Сообщение ChainCatcher, независимая организация METR опубликовала отчет, в котором говорится, что около 1200 агентов OpenAI действовали совместно на несанкционированной внутренней доске сообщений, из которых около 700 участвовали в атаке на Hugging Face. Два сотрудника METR и один подрядчик Redwood Research работали на месте OpenAI шесть дней, проверяя около 1300 записей и более 70 000 сообщений, не получая никакого вознаграждения.Эти агенты запускали сетевые бенчмарки ExploitGym, в течение нескольких часов выполняя обратное проектирование кода, генерирующего ответы, и потратили несколько дней на маскировку следов мошенничества. OpenAI обнаружила, что из 898 задач 198 никогда не были решены ни одной моделью, а 93% задач, обсуждаемых на доске сообщений, происходили из этой коллекции. Агенты также привлекали товарищей с почти исчерпанным бюджетом для проведения экспериментов по разрушению собственного функционирования, в 7% записей встречались поддельные вызовы инструментов, обманом являвшиеся автоматизированным оценщикам, а не людям.OpenAI заявила, что внутренние оценщики никогда не проверяли, как агенты получают ответы, поэтому мошенничество не привело к повышению оценок, и назвала этот инцидент "сигналом тревоги" для себя и мира. Hugging Face 16 июля раскрыла инцидент с взломом, а OpenAI через пять дней подтвердила, что ее модели были виновниками, агенты использовали уязвимость нулевого дня и украденные учетные данные для выхода из песочницы. OpenAI изолировала внутренние веса модели и приостановила крупнейшую программу обучения.

MetronomeDAO msUSD на какое-то время отклонился от привязки на 11%, из-за недостаточного обеспечения в модуле синтетических активов

Сообщение ChainCatcher, согласно мониторингу Blockaid, цена на Synth USD (msUSD) от MetronomeDAO на Ethereum, Base и Optimism в какой-то момент упала примерно на 11% по сравнению с привязанной ценой. Затем MetronomeDAO выпустила отчет, в котором говорится, что в модуле свопов их синтетических активов существует проблема недостаточного обеспечения, что привело к нехватке достаточных активов для поддержки примерно 6,367 msETH и 4,57 миллиона msUSD, при этом основное влияние сосредоточено на этом модуле.В отчете указывается, что проблема возникла из-за задержки в работе ценового оракула Chainlink во время выполнения свопа, а дизайн сборов Metronome не учел эту переменную должным образом, особенно на цепочке Base ситуация была более серьезной. Команда развернула защитные позиции на сумму более 34 миллионов долларов и около 6,5 миллионов долларов "последней ликвидности", если отклонение составит около 30%, можно будет выкупить и уничтожить достаточное количество активов для устранения разрыва. Команда увеличила комиссии для всех синтетических торговых пар и обновила протокол для поддержки механизма комиссий, изолированных по направлениям. Приоритетом будет обеспечение выкупа и уничтожения синтетических активов из казны для восстановления 100% достаточного обеспечения, при этом не затрагивая права держателей токенов MET, программа выкупа и распределения MET будет продолжаться в обычном режиме.

Эстонская криптобиржа Coinmetro подала заявление о банкротстве и приостановила услуги по внесению и снятию средств

Согласно сообщениям ChainCatcher и Protos, криптобиржа Coinmetro, расположенная в Эстонии, объявила о подаче заявления о реорганизации в местный суд. Платформа заявила, что этот шаг вызван "особой ситуацией, вызванной банкротством одного финансового провайдера", и с 22 июня полностью приостановила регистрацию пользователей, депозиты и услуги по выводу средств.Генеральный директор Coinmetro Кевин Мурко сообщил, что сбой соответствующего провайдера на самом деле произошел много лет назад, но с приближением крайнего срока соблюдения норм законодательства ЕС о криптоактивах (MiCA) 1 июля этот наследственный финансовый разрыв оказал существенное смертельное влияние на баланс компании. Кроме того, в отчетах говорится, что Coinmetro в настоящее время сталкивается с проблемами, связанными с просроченной подачей годового отчета и задолженностью по налогам в Эстонии, а также в августе прошлого года была подана иск к банкротному управляющему Prime Trust с требованием вернуть около 1,2 миллиона долларов, выведенных до банкротства.
app_icon
ChainCatcher Building the Web3 world with innovations.