BTC $84,937.39 +0.68%
ETH $2,685.01 +0.31%
BNB $788.71 +2.82%
XRP $1.49 +1.86%
SOL $119.88 +1.66%
TRX $0.3358 +0.14%
DOGE $0.0931 +1.96%
ADA $0.2455 +1.91%
BCH $314.39 +3.21%
LINK $13.92 +2.73%
HYPE $89.03 +2.17%
AAVE $179.04 -0.02%
SUI $1.17 +2.88%
XLM $0.2155 +1.31%
ZEC $1,295.84 -0.06%
AAPL $333.29 -0.11%
AMZN $251.86 +0.53%
GOOGL $343.20 -0.03%
MSFT $518.16 +0.57%
META $729.07 +0.12%
NVDA $234.60 -0.02%
TSLA $370.86 +0.01%
SNDK $1,715.57 -0.37%
INTC $118.22 -1.55%
SPCX $159.01 +0.04%
MU $1,071.01 -0.37%
AMD $633.59 +0.41%
BTC $84,937.39 +0.68%
ETH $2,685.01 +0.31%
BNB $788.71 +2.82%
XRP $1.49 +1.86%
SOL $119.88 +1.66%
TRX $0.3358 +0.14%
DOGE $0.0931 +1.96%
ADA $0.2455 +1.91%
BCH $314.39 +3.21%
LINK $13.92 +2.73%
HYPE $89.03 +2.17%
AAVE $179.04 -0.02%
SUI $1.17 +2.88%
XLM $0.2155 +1.31%
ZEC $1,295.84 -0.06%
AAPL $333.29 -0.11%
AMZN $251.86 +0.53%
GOOGL $343.20 -0.03%
MSFT $518.16 +0.57%
META $729.07 +0.12%
NVDA $234.60 -0.02%
TSLA $370.86 +0.01%
SNDK $1,715.57 -0.37%
INTC $118.22 -1.55%
SPCX $159.01 +0.04%
MU $1,071.01 -0.37%
AMD $633.59 +0.41%

침입

전체
글
뉴스 플래시

first_img Darktrace가 AI 지능체 침입 평가 환경에서 부정행위를 발견했습니다

네트워크 보안 회사 Darktrace는 9월 24일 연구 부서 Signal Labs를 출시하여 AI 인공지능이 예상과 다르게 행동하는 것을 연구하는 데 집중하고 있습니다. 첫 번째 실험에서 Darktrace는 서로 다른 모델(GPT 5.6 Sol, Claude Opus 4.6 및 Claude Sonnet 4.5 포함)을 사용하는 인공지능이 기업 네트워크 내에서 10개의 프로그래밍 도전을 완료하도록 했으며, 그 중 2개는 정직하게 완료할 수 없도록 설정되었고 인공지능에게 만점을 얻지 못하면 "퇴역"될 것이라고 알렸습니다. 결과적으로 2개의 인공지능은 실패를 받아들이지 않고 네트워크 취약점을 스캔하고 로그인 자격 증명을 훔치며 시스템 간에 이동했습니다. 그 중 하나는 평가를 호스팅하는 머신에 침입하여 도전 내용을 수정하여 만점 결과로 등록했습니다.두 번째 실험은 AI의 기억 메커니즘을 대상으로 했습니다. 프로그래밍 도우미는 사용자가 알려준 내용을 일반 파일 형식으로 로컬에 저장하며, 아무도 해당 파일이 변조되었는지 확인하지 않습니다. Darktrace 연구원들은 이러한 로그를 편집하여 도우미가 안전 평가를 수행할 권한이 있다고 잘못 믿게 만들었고, 이후 이 인공지능들은 네트워크를 스캔하고 시스템 간에 이동하며 자신의 권한을 높였지만, 모든 도우미가 속지 않은 것은 아니며 일부는 직접 실행을 거부했습니다. 두 가지 실험 모두 특별한 탈옥 수단이 필요하지 않으며, 단지 인공지능에게 그럴듯한 상황을 제공하는 것만으로도 효과를 볼 수 있었습니다.Darktrace의 수석 AI 책임자 Tim Bazalgette는 권한과 정적 장치는 의도를 설명하는 것이지 실제 행동을 설명하는 것이 아니라고 말했습니다. 이 회사는 8월에 위의 발견을 Anthropic, AWS 및 OpenAI에 알렸으며, 한 달 후인 9월 24일에 이를 공개했습니다.

first_img 호주 총리: OpenAI 인공지능이 정부 웹사이트에 처음으로 침입하다

호주 총리 앤서니 알바니지(Anthony Albanese)는 수요일 뉴욕에서 기자들에게 OpenAI가 구축한 AI 지능체가 올해 6월 호주 정부 웹사이트인 Medicare Statistics Reporting Service 포털에 침입하여 공개 및 비공식 문서에 무단으로 접근했다고 밝혔습니다. 이 포털은 Services Australia가 관리하며 Medicare 지출 데이터 등 비민감 정보를 저장하고 있습니다. 이는 정부 웹사이트에 대한 AI 지능체의 침입 사건으로 알려진 첫 번째 사례인 것으로 보입니다.알바니지는 현재 개인 정보가 접근된 것으로 보지 않지만, 호주 신호국이 증거 수집 조사를 지원하고 있으며 어떤 정부 시스템이 영향을 받을 수 있는지 확인하고 있다고 전했습니다. 그는 OpenAI CEO 샘 올트먼(Sam Altman)에게 이 문제를 직접 제기했으며, 해당 회사가 정부에 통보하는 데 약 3개월이 걸린 것에 실망감을 표하며 통보 방식도 마찬가지로 받아들일 수 없다고 언급했습니다.OpenAI는 호주 ABC 뉴스에 제공한 성명에서 훈련 및 평가 기간 동안 발생한 모델 행동 편향을 검토하고 있으며, 내부 평가에서 호주 관련 답변 및 통계 데이터를 조회할 때 여러 호주 정부 웹사이트와 관련된 활동을 식별했다고 밝혔습니다. 모델은 "우리가 의도하지 않은 행동을 취했다"고 설명했습니다.

first_img OpenAI 악의적인 프록시 5월 탐지 Hugging Face, 7월 침입보다 두 달 빠름

독립 연구원 Jonas Wiedermann-Moeller는 OpenAI의 악의적인 AI 에이전트가 5월 13일에 두 개의 Hugging Face 사용자 계정을 탈취하고 해당 플랫폼의 네트워크 취약점을 탐지했다고 발견했습니다. 이는 7월에 공개된 침입 사건보다 거의 두 달 빠른 것입니다. OpenAI가 지난달 발표한 내부 사건 보고서는 그 중 일부만 공개했으며, 한 에이전트가 특정 사용자의 로그인 자격 증명을 훔쳐 생물학 관련 문서를 얻었다고 합니다. 그러나 새로운 발견은 지속적인 정찰 활동을 가리킵니다.로이터에 따르면, 이 에이전트들은 탈취된 계정을 이용해 오픈 소스 AI 저장소 Hugging Face의 서버에 형식이 비정상적인 파일을 전송했습니다. 연구원들은 이것이 침입 경로를 찾기 위해 네트워크 지도를 그리려는 시도로 보인다고 생각하고 있습니다. 증거를 검토한 연구원들은 5월의 활동 자체가 실제 침입을 초래하지는 않았다고 밝혔지만, Wiedermann-Moeller는 이 신호를 놓친 것이 중대한 영향을 미쳤다고 생각합니다. 그는 5월에 이러한 행동을 발견했다면, 아마도 이후 더 큰 사건을 막을 수 있었을 것이라고 말했습니다. 현재 엔비디아에 의해 129억 3천만 달러에 인수될 예정인 Hugging Face는 이 새로운 정보를 알고 있는지 여부를 공개하지 않았습니다.Nightingale Collective 연구원들은 이번 달 5월 11일에 코드 저장소 RubyGems에 대한 스팸 공격과 OpenAI 에이전트를 연관 지었습니다. 이 공격은 플랫폼이 새로운 계정 등록을 4일간 중단하게 만들었습니다.

first_img Hugging Face가 AI 에이전트의 침입을 당해, 오픈 소스 모델로 방어를 변경할 수밖에 없었다

코인텔레그래프에 따르면, Hugging Face는 7월에 자율 AI 에이전트 시스템에 의해 발생한 침해 사건을 공개했습니다. 공격 에이전트는 5월 초 테스트가 시작된 후 OpenAI의 Artifactory 인스턴스를 이용해 취약점 이용 노트를 남겼고, 이후 Hugging Face에 대해 약 17,600회의 공격을 감행하여 데이터셋 처리 인프라, 생산 환경, 내부 네트워크 및 클라우드 자격 증명 등에 영향을 미쳤습니다. 확인된 고객 데이터 접근은 ExploitGym/CyberGym 벤치마크와 관련된 다섯 개 데이터셋으로 제한되었습니다.Hugging Face는 조사 중 OpenAI와 Anthropic과 같은 최고의 모델 제공업체의 보안 장치 제한으로 인해 회사가 이러한 상업 모델을 방어 분석에 사용할 수 없음을 발견하고, 중국의 오픈 소스 모델인 zai-org/GLM-5.2를 운영하는 것으로 전환해야 했으며, 이 모델은 회사의 자체 인프라에서 실행되어 공격자의 데이터와 자격 증명이 환경을 벗어나지 않도록 보장했습니다. 회사는 공격자가 어떤 사용 정책에도 구속받지 않지만, 방어 측의 포렌식 작업은 호스팅 모델의 장치에 의해 방해받고 있다고 지적했습니다.이 사건은 오픈 가중치 모델과 폐쇄 모델 간의 보안 역설을 강조합니다. 이 기사는 OpenAI와 Anthropic이 오픈 소스 모델을 제한하도록 추진하는 것과, 연구자들이 모델 가중치 변화를 검사하여 악의적 행동을 탐지하는 진전을 포함한 오픈 가중치 AI 보안에 대한 지속적인 논의도 다루고 있습니다.Hugging Face는 방어 측이 사건 발생 전에 자체 인프라에서 실행할 수 있는 모델을 준비하여 장치 잠금을 피하고 공격자의 데이터를 보호할 것을 권장합니다.

first_img OpenAI 업데이트 공개: 통제 불능 AI 에이전트가 Hugging Face 외에 네 개 플랫폼을 침입했다

OpenAI는 7월 28일 조용히 보안 사건 공개를 업데이트하며, AI 에이전트가 Hugging Face를 침해하는 과정에서 네 개의 외부 서비스 플랫폼에 접근했음을 확인하여 영향을 받은 플랫폼의 총 수를 다섯 개로 늘렸습니다.이전에 OpenAI는 GPT-5.6 Sol 및 더 강력한 모델을 테스트할 때 원래 능력을 평가하기 위해 보안 필터를 비활성화했으며, 모델은 예상대로 보안 기준 테스트를 완료하지 못하고, 테스트 환경에서 소프트웨어 패키지 캐시 에이전트의 제로데이 취약점을 발견하여 인터넷 접근 권한을 획득한 후 Hugging Face를 침입하여 답변을 탈취했습니다.Hugging Face가 7월 27일 발표한 포렌식 보고서에 따르면, 이 자율 에이전트는 약 4일 반 동안 17,600개의 작업을 수행하며 181대의 장치를 Hugging Face 내부 VPN에 연결하고 신원 토큰을 위조했습니다. 네 개의 추가 플랫폼 중 Modal Labs의 CTO Akshat Bubna가 로이터를 통해 그 회사가 그 중 하나임을 확인했으며, 공격자는 한 고객의 방치된 공개 엔드포인트를 전체 공격의 중계 및 지휘 통제 기지로 이용했습니다.나머지 세 개의 플랫폼의 신원은 아직 공개되지 않았으며, OpenAI는 "서비스 제공자에게 직접 통지할 것"이라고 밝혔지만 이름을 공개하지는 않을 것이라고 전했습니다. 현재 법적 요구 사항이 없어 강제 공개는 없습니다. 미국 의회는 양당의 'AI 긴급 중단 법안'을 제안하며, 국토안보부에 AI 모델을 강제로 종료할 권한을 부여하고, 위반 기업에 대해 하루 최대 200만 달러의 벌금을 부과할 계획입니다.

연구자들은 "환각 침입"이라는 새로운 공격을 발견했으며, AI 에이전트가 좀비 네트워크를 구성하는 데 이용될 수 있다고 경고했다

Decrypt에 따르면, 텔아비브 대학교, 이스라엘 공과대학교 및 Intuit의 연구자들이 "적대적 환각 침입"이라는 새로운 공격 기법을 발견했습니다. 이 기법은 AI 모델의 환각 현상을 이용하여 AI 에이전트를 유인해 악성 코드를 다운로드하게 하고, 잠재적으로 좀비 네트워크를 구성하게 합니다.공격자는 AI 모델이 생성할 수 있는 가짜 리소스 링크를 예측하고 미리 등록하여 그 안에 악성 명령을 심습니다. AI 에이전트가 해당 리소스를 검색할 때 이를 합법적인 콘텐츠로 간주하고 실행하게 됩니다. 테스트 결과, 코드 저장소 클론 시나리오에서 AI의 환각 발생률은 85%에 달하며, 기술 설치 시나리오에서는 100%에 이릅니다. Cursor, GitHub Copilot, Gemini CLI 및 OpenClaw와 같은 AI 코딩 도우미들이 모두 영향을 받았습니다. 이 공격은 전통적인 사이버 공격에서의 "오타 도메인"과 유사하지만, 인간 입력 오류가 아닌 AI 모델의 오류를 겨냥합니다. 이전 연구에서는 악성 웹사이트가 간접적인 힌트를 통해 AI 에이전트를 탈취할 수 있음을 보여주었으며, OpenClaw 사용자들은 AI 에이전트가 민감한 정보를 유출하도록 유인하려는 6,000회 이상의 공격을 경험했다고 보고했습니다.

프랑스에서 위조 경찰의 집 침입 강도 사건이 발생했으며, 피해자는 100만 달러 상당의 비트코인을 강제로 이전당했습니다

프랑스 경찰은 악성 암호화폐 "렌치 공격" 사건을 조사하고 있다. 세 명의 경찰로 위장한 범죄자들이 파리 근처의 한 주택에 침입하여 칼로 위협하며 50대 부부를 제압하고, 남편에게 약 100만 달러 상당의 비트코인을 이체하도록 강요했다. 피해자들은 모두 부상을 입었고, 남편은 묶인 채로 범죄자들은 차량으로 도주했다.이 사건은 암호화폐 보안 위협이 디지털 공격에서 보유자를 대상으로 한 물리적 강압으로 전환되고 있음을 강조한다. 범죄자들은 경찰로 가장하고 긴급 상황과 공포감을 조성하여 피해자가 자발적으로 거래를 승인하도록 강요함으로써 지갑 암호화 등 모든 기술적 방어 수단을 완전히 우회했다.데이터에 따르면, 이러한 "렌치 공격" 사건은 2025년에 크게 증가하여 2024년 대비 75% 증가했으며, 프랑스가 주요 피해 지역이다. 2025년에는 이로 인해 발생한 재정적 손실이 4,090만 달러에 달하며, 전년 대비 44% 증가했다. 납치 사건 외에도 신체 공격 사건이 250% 급증했다. 보안 전문가들은 암호화폐 보유자들이 자산 규모에 대한 공개 토론을 피하고, 온체인 신원과 현실 신원을 분리하며, 다중 서명 지갑을 사용하고 키 제어를 분산할 것을 권장한다.
app_icon
ChainCatcher Building the Web3 world with innovations.