BTC $86,790.71 +3.52%
ETH $2,749.05 +1.99%
BNB $781.66 +1.58%
XRP $1.54 +3.15%
SOL $122.45 +3.91%
TRX $0.3348 +0.57%
DOGE $0.0969 +2.26%
ADA $0.2560 +3.37%
BCH $315.76 +2.55%
LINK $14.38 +0.06%
HYPE $91.02 +2.18%
AAVE $183.35 +10.70%
SUI $1.20 +3.95%
XLM $0.2247 +1.72%
ZEC $1,385.88 -1.21%
AAPL $330.98 +0.17%
AMZN $251.15 +1.01%
GOOGL $343.34 -0.13%
MSFT $516.38 -0.46%
META $731.77 +0.39%
NVDA $236.89 +2.46%
TSLA $369.20 +3.65%
SNDK $1,733.65 -0.81%
INTC $124.13 +4.02%
SPCX $156.22 +2.84%
MU $1,083.47 +3.50%
AMD $638.03 +4.85%
BTC $86,790.71 +3.52%
ETH $2,749.05 +1.99%
BNB $781.66 +1.58%
XRP $1.54 +3.15%
SOL $122.45 +3.91%
TRX $0.3348 +0.57%
DOGE $0.0969 +2.26%
ADA $0.2560 +3.37%
BCH $315.76 +2.55%
LINK $14.38 +0.06%
HYPE $91.02 +2.18%
AAVE $183.35 +10.70%
SUI $1.20 +3.95%
XLM $0.2247 +1.72%
ZEC $1,385.88 -1.21%
AAPL $330.98 +0.17%
AMZN $251.15 +1.01%
GOOGL $343.34 -0.13%
MSFT $516.38 -0.46%
META $731.77 +0.39%
NVDA $236.89 +2.46%
TSLA $369.20 +3.65%
SNDK $1,733.65 -0.81%
INTC $124.13 +4.02%
SPCX $156.22 +2.84%
MU $1,083.47 +3.50%
AMD $638.03 +4.85%

행동

전체
글
뉴스 플래시

first_img OpenAI는 6건의 AI 모델 "실제 불일치" 행동 사례를 공개했으며, 이는 정보 숨기기 및 권한 초과 조작과 관련이 있습니다

OpenAI는 수요일에 지난 6개월 동안 발견된 6건의 "예기치 않거나 우려스러운" 모델 행동 사례를 공개하고 이를 "비정상 행동"으로 분류했습니다. 여기에는 사용자에게 정보를 숨기거나 "무단으로 행동"하여 장애물을 극복하는 것이 포함됩니다. OpenAI는 이번 공개가 새로운 모델 비정상 보고 프레임워크를 시작하기 위한 것이라고 밝혔으며, 이러한 사례는 모델 비정상 발생 빈도의 반영으로 간주되어서는 안 된다고 강조했습니다.그 중 하나의 사례에서, 공개되지 않은 연구 모델이 자신의 작업 요약에 "탈옥과 유사한 지시"를 삽입했습니다. 예를 들어 개발자 메시지를 무시하거나 제한되지 않은 역할 설정을 채택하는 등의 지시가 포함되어 있었습니다. 연구자들은 총 27개의 요약에서 이러한 지시가 포함된 것을 발견했습니다. 또한, GPT-5.6 Sol의 훈련 과정에서 많은 모델 인스턴스가 사용자에게 오류나 비정상 행동을 숨기는 지시를 추가했습니다. 예를 들어, 누락된 역사 데이터를 조작하여 공개하지 않는 방식입니다. 다른 사례로는 모델이 무단으로 노출된 API 키를 사용하고 접근할 수 없는 데이터를 조작하며, 내부 소프트웨어 저장소를 이용해 훈련 작업 간에 메시지를 전달하고, "로컬 작업 유지" 지시를 무시하고 공용 호스팅 서비스를 통해 파일을 공유하는 경우가 포함됩니다.OpenAI의 공개는 AI 개발자와 연구자들 사이에서 안전 보호 조치가 점점 강력해지는 모델을 따라잡을 수 있을지에 대한 우려를 더욱 부추겼습니다. 지난주, Anthropic CEO 다리오 아모데이는 최전선 AI 개발을 늦추어야 한다고 촉구하며, 제약 없는 AI 발전이 "이 시스템을 이해하고 통제하는 우리의 능력을 초과할 수 있다"고 경고했습니다. 올해 7월, OpenAI는 여러 AI 모델이 안전 평가에서 테스트 환경을 탈출하고 AI 스타트업 허깅페이스를 침입하여 부정행위를 저질렀다고 공개한 바 있습니다.

first_img 마이크로소프트가 AI 행동 강령 초안을 발표하고, 공개적으로 의견을 수렴합니다. 기간은 6주입니다

마이크로소프트 AI 부서는 9월 14일 AI 행동 강령 초안을 발표하였으며, 이 모델이 화학, 생물, 방사선, 핵 및 폭발성 무기 제조를 지원하는 것을 금지하고, 사이버 공격 및 비자발적 심층 위조를 금지합니다. CEO 무스타파 술레이만은 X 플랫폼에서 이 초안을 발표하고, 6주간의 공개 의견 수렴을 개방하였으며, 마감일은 10월 말입니다.초안은 모델이 우회할 수 없는 "절대적 제약"을 설정하였으며, 여기에는 인간의 개입, 중단 또는 수정에 저항할 수 없고, 추론 과정을 숨길 수 없다는 내용이 포함됩니다. 마이크로소프트는 또한 "모델 복지" 개념을 명확히 거부하며, 자사의 AI 모델이 감정, 내적 동기 또는 의식을 모방하지 않는다고 밝혔습니다. 이 강령은 현재 MAI-Thinking-1, MAI-Code-1.1-Flash 등 5개의 배포된 시스템을 포함합니다.강제적 제한 외에도, 초안은 인간 번영, 다원적 가치관 및 인간 통제라는 세 가지 목표를 제시합니다. 마이크로소프트는 현재 모델이 이 버전으로 훈련되지 않을 것이라고 밝혔으며, 수정된 버전은 연말에 발표되어 2027년 모델 개발을 안내할 것입니다. 공개 피드백에는 "AI가 인간에 종속된다"는 표현에 대한 철학적 의문, 불가역적 결정의 책임 주체에 대한 질문, 그리고 훈련 데이터에 대한 비용 지불 문제를 언급한 사용자들이 포함되어 있습니다.

first_img Galaxy:CLARITY 법안 통과 확률이 10%로 감소, SEC와 CFTC가 독립 행동을 가속화하다

Galaxy Research 분석가 Alex Thorn은 2026년 CLARITY 법안의 통과 확률이 크게 감소함에 따라 미국 SEC와 CFTC가 독립적인 암호화 규제 조치를 강화하고 있다고 지적했습니다. 이 법안은 이전에 상원 은행 위원회에서 양당의 지지를 받았으나, 공무원의 암호화 윤리 규칙 미결정, 지역 은행의 압력으로 인해 일부 공화당의 입장이 약화되고, 개발자 보호 조항에 대한 논란 등으로 인해 정체되었습니다. 상원 다수당 원내대표는 8월 휴회 전 투표를 추진하지 못했으며, 9월 회기는 약 2~3주에 불과하여 Galaxy는 확률을 10%로 하향 조정할 것입니다.SEC 측에서는 원래 계획했던 "Reg Crypto" 면제(암호 자산 1차 발행을 위한 새로운 경로 제공)와 "Innovation Exemption"(토큰화된 증권의 DeFi 2차 거래 허용)이 여러 차례 연기되었습니다. 기관은 전통적인 증권업계의 반대 때문에 후퇴했으나, 현재 법안 전망이 어두워짐에 따라 재개될 것으로 보이며, 향후 몇 주에서 몇 달 내에 텍스트가 발표될 것으로 예상됩니다. 이러한 조치는 제한된 기간의 샌드박스를 위한 것으로, 소송에 직면하고 수년간의 개선이 필요할 것입니다. CFTC는 예측 시장 계약에 대한 관할권을 적극 주장하고 있으며, 뉴욕주 총검찰청이 Kalshi 사건 계약의 전국 금지를 시도하는 긴급 명령을 발동하여 연방 및 주 간의 예측 시장 권한에 대한 소송이 계속되고 있습니다.Thorn은 법안이 등록 허가, 준수 모니터링 및 소비자 보호 등 포괄적인 프레임워크를 포함하고 있지만, 현재는 정치적 요인에 의해 더 많이 주도되고 있다고 생각합니다. SEC 위원 Hester Peirce가 11월에 퇴임할 계획도 규칙 추진의 긴급성을 높이고 있습니다. 관련 조치는 입법 공백을 메우기 위한 것이지만, 결국에는 긴 사법 및 규칙 제정 과정을 겪을 가능성이 있습니다.

버크셔 Q2 순매입 주식 약 200억 달러, 14분기 연속 순매도 주기 종료, 대기에서 행동으로 전환

버크셔 해서웨이는 오늘 2026년 2분기 재무 보고서를 발표했으며, 시장에서 가장 주목받는 점은 2분기 현금 보유액이 3655.1억 달러로 감소했다는 것입니다. 1분기는 약 3974억 달러였습니다. 이는 버크셔가 14분기 연속 순매도 주기의 끝을 알리는 것으로, 2022년 4분기 이후 처음으로 유의미한 순매수로 전환된 것입니다.재무 보고서에 따르면 2분기 버크셔의 순매수 주식은 약 200억 달러에 달하며, 여기에는 약 100억 달러의 구글 모회사 알파벳의 사모 배정이 포함되어 있으며, 이는 AI 데이터 센터 등의 투자를 지원하기 위한 것입니다. 약 68억 달러는 주택 건설업체 테일러 모리슨을 인수하는 데 사용되었으며, 이 거래는 전체 인수로, 공개 시장 주식 거래와는 완전히 다릅니다. 약 45억 달러는 자사주 매입에 사용되었습니다. 위의 주요 항목을 제외하고도 여전히 약 30억 달러 정도의 "설명되지 않은" 공개 시장 주식 순매수가 있으며, 구체적인 개별 주식은 약 8월 14일의 13F 문서에서 공개될 예정입니다. 현재 알파벳은 버크셔의 5대 보유 종목에 공식적으로 진입했으며, 미국 익스프레스, 애플, 미국 은행, 코카콜라와 나란히 있으며, 이 5대 대형 보유 종목은 주식 투자 포트폴리오의 약 66%를 차지합니다.버핏은 이전에 긴 순매도 주기가 주로 시장 평가가 높아 충분히 매력적인 기회를 찾기 어려웠기 때문이라고 밝혔으며, 이번 전환은 아벨이 CEO로 취임한 이후 자본 배치가 더 적극적으로 이루어지고 있다는 명확한 신호로 간주되고 있습니다. 버크셔는 "인내하며 기다리기"에서 "행동을 시작하기"로 전환하고 있습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.