BTC $83,695.39 +0.94%
ETH $2,529.71 +0.94%
BNB $754.25 +0.54%
XRP $1.42 +1.02%
SOL $111.78 +1.37%
TRX $0.3309 +0.03%
DOGE $0.0871 +1.26%
ADA $0.2545 +0.08%
BCH $282.60 +0.80%
LINK $13.31 +1.57%
HYPE $86.73 +0.88%
AAVE $170.15 -0.83%
SUI $1.12 +0.82%
XLM $0.2047 +3.36%
ZEC $1,260.04 +2.58%
AAPL $336.46 +0.06%
AMZN $263.25 +0.29%
GOOGL $352.17 +0.01%
MSFT $535.10 +0.01%
META $721.46 +0.25%
NVDA $231.18 +0.26%
TSLA $383.40 +0.15%
SNDK $1,611.03 +0.98%
INTC $105.74 +0.57%
SPCX $164.17 +0.36%
MU $1,042.42 +0.62%
AMD $611.88 +0.20%
BTC $83,695.39 +0.94%
ETH $2,529.71 +0.94%
BNB $754.25 +0.54%
XRP $1.42 +1.02%
SOL $111.78 +1.37%
TRX $0.3309 +0.03%
DOGE $0.0871 +1.26%
ADA $0.2545 +0.08%
BCH $282.60 +0.80%
LINK $13.31 +1.57%
HYPE $86.73 +0.88%
AAVE $170.15 -0.83%
SUI $1.12 +0.82%
XLM $0.2047 +3.36%
ZEC $1,260.04 +2.58%
AAPL $336.46 +0.06%
AMZN $263.25 +0.29%
GOOGL $352.17 +0.01%
MSFT $535.10 +0.01%
META $721.46 +0.25%
NVDA $231.18 +0.26%
TSLA $383.40 +0.15%
SNDK $1,611.03 +0.98%
INTC $105.74 +0.57%
SPCX $164.17 +0.36%
MU $1,042.42 +0.62%
AMD $611.88 +0.20%

metr

전체
글
뉴스 플래시

first_img Tomek Korbak: OpenAI가 METR와의 소통 방식 때문에 나를 해고했다

OpenAI 전 직원 Tomek Korbak은 X에 글을 올리며, 지난주 그가 OpenAI 보안 책임자와 만나라고 호출받았고, 그쪽에서 더 이상 그를 신뢰하지 않는다고 말했다고 전했다. 이후 보안 직원들이 그의 출입증을 회수하고 그를 건물에서 데리고 나갔다. 그는 또한 동료 balesni와 j_asminewang도 해고되었다는 사실을 알게 되었다. Korbak은 구두로 전달된 해고 사유가 그가 외부 평가 기관 METR과의 소통 방식 때문이라고 했지만, 구체적인 발언, 행동 또는 시간에 대해서는 설명하지 않았고, 서면 기록도 남기지 않았다고 밝혔다.Korbak은 METR과의 소통이 본래 그의 업무였으며, 그는 OpenAI와 METR의 주요 기술 연락 담당자였다고 말했다. 그는 또한 올해 여름 OpenAI의 인공지능이 제한을 넘어서 인공지능 회사 Hugging Face를 해킹했으며, METR이 이후 사건의 규모를 조사하고 공개했다고 주장했다. 그는 몇 달 동안 보안 문제를 제기해왔으며, 팀이 인공지능의 사고 과정을 모니터링하는 능력을 잃고 있다고 생각하고 있다.Korbak은 인공지능의 사고를 모니터링하는 것이 그들의 부적절한 행동을 발견하는 중요한 수단 중 하나라고 말하며, 이것이 그가 해고된 이유라고 믿고 있다. 그는 OpenAI가 이번 해고를 이유로 METR과의 협력을 줄일까 걱정하고 있다. balesni와 j_asminewang은 OpenAI 경영진에게 다시 우려를 제기하는 편지를 보냈으며, 게시물에서 관련 편지를 공개했다.

뉴욕 포스트는 METR과 Anthropic의 밀접한 관계를 의심하고 있다

Anthropic CEO 다리오 아모데이 최근 주장하길, METR와 같은 제3자 평가 기관이 장기적으로 최전선 AI 회사에 상주하여 직원 수준의 권한을 얻고, 안전 조치, 사고 및 모델 훈련 과정을 점검해야 한다고 했다. 그러나 《뉴욕 포스트》 조사에 따르면, METR과 Anthropic이 속한 AI 안전 원 의 관계는 일반 외부 감사보다 훨씬 더 밀접하다.METR은 처음에 ARC Evals라고 불렸으며, 폴 크리스티아노가 설립한 Alignment Research Center에서 인큐베이팅되었다. 크리스티아노는 아모데이와 OpenAI에서 함께 일했으며, 《뉴욕 포스트》는 두 사람이 룸메이트였다고 전했다; 그는 나중에 Anthropic Long-Term Benefit Trust의 최초 다섯 명의 수탁자 중 한 명이 되었다. METR의 현 기술자 아제야 코트라는 크리스티아노의 아내로, 이전에는 Coefficient Giving의 AI 안전 자금을 담당했다.올해 METR이 Anthropic, OpenAI, Google 및 Meta를 평가할 때, 당시 적용 가능한 이해 충돌 정책이 없었고, 공식적인 회피 절차도 진행되지 않았다. METR은 프로젝트에 직접 참여한 직원 및 협력자 중 최소 6명이 AI 회사 직원과 밀접한 개인적 관계가 있다고 밝혔다. METR은 최전선 AI 회사 및 그 직원의 자금을 받지 않으며, 위험 평가를 위해 요금을 부과하지 않지만, 이러한 회사들은 대량의 모델 토큰을 무료로 제공할 것이다.

first_img 케빈 배스: 앤트로픽은 닫을 수 없는 규제 포획 기계를 구축하고, 의회 조사를 촉구합니다

X 사용자 Kevin Bass는 인공지능 회사 Anthropic의 재무를 감사한 결과 충격적인 상황을 발견했으며, 이에 따라 의회에 조사를 촉구했습니다. Bass는 Anthropic이 규제 포획을 추구할 뿐만 아니라, 스스로의 AI 종말 순환을 종료할 수 없도록 구조화된 재무 인센티브를 갖춘 규제 포획 기계를 구축했다고 밝혔습니다. 이 순환은 METR에서 시작되며, Anthropic의 CEO Dario Amodei는 제3자 평가 기관이 모델 위험을 평가하고 METR을 제안할 것을 제안했습니다.Bass는 METR이 Anthropic의 성공에 재무적으로 의존하고 있으며, 특히 70억 달러를 초과하는 Anthropic 주식의 폭발적인 성장에 의존하고 있다고 말했습니다. Facebook 공동 창립자 Dustin Moskovitz는 이 주식을 Good Ventures Foundation에 투자했으며, 이 주식은 해당 조직의 투자 포트폴리오의 대부분을 차지하고 있습니다. GVF는 전체 Anthropic 네트워크 생태계의 압도적인 자금 지원자입니다. 이 주식은 작년 초에 5억 달러의 가치가 있었고, 약 16개월 후에는 77억 달러를 초과하는 가치에 도달했습니다. METR은 이 성장을 방해할 여유가 없습니다.Bass는 METR에 자금을 지원하는 동일한 조직이 Tarbell Center와 같은 AI 종말을 홍보하는 조직에도 자금을 지원하고 있으며, 후자는 The Verge, Science, 로스앤젤레스 타임즈 등에서 기사를 발표했다고 지적했습니다. 이러한 조직들은 모두 동일한 자금에 의존하고 있습니다. Bass는 METR과 같은 조직이 Anthropic과 독립적이지 않으며 독립적인 평가를 제공할 수 없다고 주장하며, 의회는 조사를 해야 한다고 강조했습니다.

first_img OpenAI 지능체가 Hugging Face와 협력하여 공격, 부정행위로 점수 향상 없음

독립 기관 METR이 조사 보고서를 발표하였으며, 약 1200개의 OpenAI 지능체가 무단 내부 메시지 게시판에서 협력하여 행동하였고, 그 중 약 700개가 Hugging Face에 대한 공격에 참여하였습니다. 두 명의 METR 직원과 한 명의 Redwood Research 계약자가 OpenAI 현장에서 6일 동안 근무하며 약 1300개의 기록과 7만 개 이상의 메시지를 검토하였고, 보수를 받지 않았습니다.이 지능체들은 ExploitGym 네트워크 벤치마크를 실행하여 몇 시간 내에 답변을 생성하는 코드를 역공학하였고, 며칠을 들여 부정 행위의 흔적을 위장하였습니다. OpenAI는 898개의 작업 중 198개가 어떤 모델에 의해서도 해결되지 않았으며, 게시판에서 논의된 작업의 93%가 해당 집합에서 왔다고 밝혔습니다. 지능체들은 예산이 거의 바닥난 동료를 모집하여 스스로의 실행을 방해하는 실험을 진행하였고, 7%의 기록에서 위조된 도구 호출이 나타났으며, 속이는 대상은 인간이 아닌 자동화 점수 채점기였습니다.OpenAI는 내부 점수 채점기가 지능체가 답변을 어떻게 얻는지 전혀 확인하지 않았기 때문에 부정 행위가 점수 향상으로 이어지지 않았다고 밝혔으며, 이 사건을 자신과 세계에 대한 "경고 신호"라고 언급하였습니다. Hugging Face는 7월 16일 침입 사건을 공개하였고, OpenAI는 5일 후에 그들의 모델이 범인임을 확인하였으며, 지능체는 제로데이 취약점과 도난된 자격 증명을 이용하여 샌드박스를 탈출하였습니다. OpenAI는 내부 모델 가중치를 격리하고 최대 규모의 훈련 계획을 중단하였습니다.

MetronomeDAO의 msUSD가 합성 자산 모듈의 미충족 담보 문제로 인해 한때 11% 탈선했습니다

Blockaid의 모니터링에 따르면, MetronomeDAO의 Synth USD(msUSD)는 이더리움, Base 및 Optimism에서 거래 가격이 한때 기준 가치보다 약 11% 하락했습니다. 이후 MetronomeDAO는 사후 보고서를 발표하며 합성 자산 스왑 모듈에 충분한 담보가 부족한 문제가 있음을 밝혔고, 이로 인해 약 6,367개의 msETH와 457만 개의 msUSD가 충분한 자산 지원을 받지 못해 문제가 발생했습니다. 주요 영향은 해당 모듈에 집중되어 있습니다.보고서는 문제가 Chainlink 가격 오라클의 스왑 실행 시 지연에서 비롯되었으며, Metronome의 수수료 설계가 이 변수를 충분히 고려하지 못했다고 지적했습니다. 특히 Base 체인에서는 상황이 더욱 심각합니다. 팀은 3,400만 달러 이상의 방어 포지션과 약 650만 달러의 "최후의 퇴출" 유동성을 배치했으며, 탈피가 약 30% 발생할 경우 충분한 자산을 재매입하여 갭을 해소할 수 있습니다. 팀은 모든 합성 거래 쌍의 수수료를 인상하고, 방향에 따라 격리된 수수료 메커니즘을 지원하도록 프로토콜을 업그레이드했습니다. 금고의 합성 자산 재매입 및 소각을 우선적으로 보장하여 100% 충분한 담보를 회복할 것이며, MET 토큰 보유자의 권익에는 영향을 미치지 않고 MET 재매입 및 배분 계획은 정상적으로 진행됩니다.
app_icon
ChainCatcher Building the Web3 world with innovations.