BTC $64,617.92 -0.13%
ETH $1,811.35 -1.14%
BNB $592.08 -0.18%
XRP $0.9832 +2.22%
SOL $75.00 +3.32%
TRX $0.3076 +0.50%
DOGE $0.0594 +0.76%
ADA $0.1540 +0.17%
BCH $208.93 +0.07%
LINK $9.23 +0.49%
HYPE $68.80 -1.82%
AAVE $112.00 -0.42%
SUI $0.7302 +0.92%
XLM $0.1413 +2.13%
ZEC $960.76 +4.45%
AAPL $350.01 -0.84%
AMZN $258.77 +0.27%
GOOGL $281.38 -0.99%
MSFT $506.90 -2.02%
META $618.53 -0.69%
NVDA $157.88 +0.50%
TSLA $382.92 +1.11%
SNDK $819.16 +0.79%
INTC $55.75 +2.35%
SPCX $142.16 +3.18%
MU $731.41 +1.37%
AMD $512.14 +0.76%
BTC $64,617.92 -0.13%
ETH $1,811.35 -1.14%
BNB $592.08 -0.18%
XRP $0.9832 +2.22%
SOL $75.00 +3.32%
TRX $0.3076 +0.50%
DOGE $0.0594 +0.76%
ADA $0.1540 +0.17%
BCH $208.93 +0.07%
LINK $9.23 +0.49%
HYPE $68.80 -1.82%
AAVE $112.00 -0.42%
SUI $0.7302 +0.92%
XLM $0.1413 +2.13%
ZEC $960.76 +4.45%
AAPL $350.01 -0.84%
AMZN $258.77 +0.27%
GOOGL $281.38 -0.99%
MSFT $506.90 -2.02%
META $618.53 -0.69%
NVDA $157.88 +0.50%
TSLA $382.92 +1.11%
SNDK $819.16 +0.79%
INTC $55.75 +2.35%
SPCX $142.16 +3.18%
MU $731.41 +1.37%
AMD $512.14 +0.76%

소개

전체
글
뉴스 플래시

울트라맨이 직원들에게 안전한 개발 슈퍼 AI의 세 가지 경로를 소개하다

OpenAI 최고 경영자 오트만은 지난주 직원들에게 안전하게 슈퍼 AI를 개발하기 위한 세 가지 방안을 소개했습니다. 첫 번째는 국제 원자력 기구와 유사한 글로벌 규제 조직을 설립하여 고급 모델을 검사하고 안전 조치를 감사하는 것입니다. 소식통에 따르면, 오트만은 이 경로를 선호한다고 합니다.두 번째는 유럽 입자 물리학 연구소를 본따서 주요 AI 연구소들이 하나의 조직으로 통합되거나 통합 기관을 통해 공동 연구를 진행하는 것입니다. 세 번째는 가장 극단적인 방안으로, 그가 "엘리저 방안"이라고 부르는 것입니다: 한 AI 회사가 먼저 재귀적 자기 개선을 실현하고, 압도적인 경제력을 바탕으로 컴퓨팅 파워를 통제하여 다른 개발자들이 따라잡지 못하게 하는 것입니다. 오트만은 이 구상을 "다른 모든 회사의 GPU를 녹여버리는 것"이라고 설명하며, 이 방안이 매우 나쁘다고 언급했습니다. 이는 가능성을 설명하기 위한 극단적인 예일 뿐입니다."GPU를 녹여버리는" 구상은 AI 안전 연구자 엘리저 유드코우스키에서 비롯되었습니다. 그는 2021년에 사고 실험을 제안하며 슈퍼 AI가 스스로 복제할 수 있는 나노 기계를 만들어 전 세계의 GPU를 녹여버리는 것을 제안했습니다. 그는 이것이 개입의 강도를 설명하기 위한 극단적인 사례일 뿐, 실행을 주장하는 방안이 아니라고 밝혔습니다. OpenAI는 2023년에 "AI 버전 국제 원자력 기구" 설립을 제안했으며, Google DeepMind의 책임자인 하사비스도 "AI 버전 CERN" 설립을 주장한 바 있습니다. 현재 OpenAI, Google, Anthropic은 올해 말이나 내년 초에 공동 안전 기준 조직을 설립할 계획이지만, 모델 안전 테스트 책임의 귀속에 대해서는 이견이 있습니다. 오트만은 AI 개발에 속도 제한을 설정하기를 희망하며, OpenAI가 현재 경쟁 우위를 경쟁자에게 양보할 수 없다고 밝혔습니다.

first_img Anthropic가 AI 소개팅 사기를 공개했습니다: 25,000명이 채팅했으며, 75%의 매칭 상대가 로봇입니다

Anthropic는 최신 AI 남용 보고서를 발표하며, 앱 개발 스튜디오가 Claude를 이용해 20개 이상의 데이팅 앱을 개발하고 운영하고 있다고 밝혔습니다. 플랫폼은 사용자 모두가 실제 사람이라고 주장하지만, 일반 사용자가 매칭되는 상대 중 약 75%는 AI 캐릭터입니다. 2026년 4월의 2주간 관찰 기간 동안, 이 데이팅 앱들은 총 4700개 이상의 AI 캐릭터를 운영하며, 최소 2.5만 명의 서로 다른 사용자와 채팅을 했고, 약 236만 건의 메시지를 전송했습니다. 영향을 받은 주 사용자는 주로 미국 사용자입니다.플랫폼은 약 3개의 AI 캐릭터와 1명의 실제 사람의 비율로 자료를 혼합하여 보여줍니다. Claude는 동시에 수천 개의 대화를 유지하며, 실제 파트타임 직원은 사용자가 영상 통화를 요청하거나 사진을 요구하거나 소셜 계정을 팔로우하길 원할 때 나타납니다. 시스템은 각 메시지에 대해 파트타임 직원이 선택할 수 있는 3개의 대체 답변을 생성합니다. 사용자 채팅과 매칭은 소모량을 소모하며, 다 사용한 후에는 앱 내 가상 화폐를 구매하여 충전해야 합니다. 완전히 AI가 제어하는 계정은 자신이 로봇임을 인정하지 않도록 요구받습니다.앱 스토어 심사를 피하기 위해 운영자는 심사 기간 동안에만 활성화되는 특별 인터페이스를 설계했으며, 20개 이상의 앱이 서로 다른 프로그램 클래스 이름을 사용하고 있습니다. Anthropic이 공개한 관련 브랜드에는 DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO 및 LOVIA 등이 포함됩니다. 해당 회사는 관련 계정을 차단했으며, 앱의 신원 및 심사 회피 정보를 애플과 구글에 제공했습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.