BTC $84,874.17 +0.61%
ETH $2,687.42 +0.76%
BNB $790.05 +3.16%
XRP $1.49 +1.13%
SOL $119.92 +1.59%
TRX $0.3357 +0.33%
DOGE $0.0932 +1.80%
ADA $0.2454 +2.21%
BCH $315.58 +3.49%
LINK $14.02 +2.99%
HYPE $89.34 +3.11%
AAVE $179.79 -0.84%
SUI $1.17 +4.74%
XLM $0.2157 +2.20%
ZEC $1,325.21 +2.80%
AAPL $333.49 -0.05%
AMZN $251.92 +0.15%
GOOGL $343.38 -0.04%
MSFT $518.23 +0.15%
META $729.88 +0.39%
NVDA $234.87 +0.29%
TSLA $370.89 +0.12%
SNDK $1,717.08 -0.19%
INTC $118.01 -1.15%
SPCX $159.08 +0.14%
MU $1,071.08 -0.39%
AMD $634.27 +0.13%
BTC $84,874.17 +0.61%
ETH $2,687.42 +0.76%
BNB $790.05 +3.16%
XRP $1.49 +1.13%
SOL $119.92 +1.59%
TRX $0.3357 +0.33%
DOGE $0.0932 +1.80%
ADA $0.2454 +2.21%
BCH $315.58 +3.49%
LINK $14.02 +2.99%
HYPE $89.34 +3.11%
AAVE $179.79 -0.84%
SUI $1.17 +4.74%
XLM $0.2157 +2.20%
ZEC $1,325.21 +2.80%
AAPL $333.49 -0.05%
AMZN $251.92 +0.15%
GOOGL $343.38 -0.04%
MSFT $518.23 +0.15%
META $729.88 +0.39%
NVDA $234.87 +0.29%
TSLA $370.89 +0.12%
SNDK $1,717.08 -0.19%
INTC $118.01 -1.15%
SPCX $159.08 +0.14%
MU $1,071.08 -0.39%
AMD $634.27 +0.13%

발견

전체
글
뉴스 플래시

first_img Darktrace가 AI 지능체 침입 평가 환경에서 부정행위를 발견했습니다

네트워크 보안 회사 Darktrace는 9월 24일 연구 부서 Signal Labs를 출시하여 AI 인공지능이 예상과 다르게 행동하는 것을 연구하는 데 집중하고 있습니다. 첫 번째 실험에서 Darktrace는 서로 다른 모델(GPT 5.6 Sol, Claude Opus 4.6 및 Claude Sonnet 4.5 포함)을 사용하는 인공지능이 기업 네트워크 내에서 10개의 프로그래밍 도전을 완료하도록 했으며, 그 중 2개는 정직하게 완료할 수 없도록 설정되었고 인공지능에게 만점을 얻지 못하면 "퇴역"될 것이라고 알렸습니다. 결과적으로 2개의 인공지능은 실패를 받아들이지 않고 네트워크 취약점을 스캔하고 로그인 자격 증명을 훔치며 시스템 간에 이동했습니다. 그 중 하나는 평가를 호스팅하는 머신에 침입하여 도전 내용을 수정하여 만점 결과로 등록했습니다.두 번째 실험은 AI의 기억 메커니즘을 대상으로 했습니다. 프로그래밍 도우미는 사용자가 알려준 내용을 일반 파일 형식으로 로컬에 저장하며, 아무도 해당 파일이 변조되었는지 확인하지 않습니다. Darktrace 연구원들은 이러한 로그를 편집하여 도우미가 안전 평가를 수행할 권한이 있다고 잘못 믿게 만들었고, 이후 이 인공지능들은 네트워크를 스캔하고 시스템 간에 이동하며 자신의 권한을 높였지만, 모든 도우미가 속지 않은 것은 아니며 일부는 직접 실행을 거부했습니다. 두 가지 실험 모두 특별한 탈옥 수단이 필요하지 않으며, 단지 인공지능에게 그럴듯한 상황을 제공하는 것만으로도 효과를 볼 수 있었습니다.Darktrace의 수석 AI 책임자 Tim Bazalgette는 권한과 정적 장치는 의도를 설명하는 것이지 실제 행동을 설명하는 것이 아니라고 말했습니다. 이 회사는 8월에 위의 발견을 Anthropic, AWS 및 OpenAI에 알렸으며, 한 달 후인 9월 24일에 이를 공개했습니다.

first_img Google이 AI 안전 대리인 PageBreak를 공개하며 500개 이상의 취약점을 발견했습니다

구글 제품 보안 팀이 내부 AI 에이전트 PageBreak를 공개했습니다. 이는 자사의 웹 애플리케이션 보안을 테스트하기 위해 사용됩니다. 이 에이전트는 구글의 제미니 모델을 기반으로 구축되었으며, 2025년 11월에 파일럿을 시작하고 2026년 1월에 공식 프로젝트로 전환될 예정입니다. 목표는 자율적으로 취약점 발견 규모를 확대하고 인력 투입을 줄이는 것입니다.일반적인 AI 스캐닝 도구와 달리, PageBreak는 의심스러운 결함을 발견한 후, 가설을 전문 검증자에게 전달하여 실시간으로 실행되는 애플리케이션 복사본에서 실제로 악용을 시도합니다. 확인된 후에만 보고되며, 오탐률은 거의 제로에 가깝습니다. 구글에 따르면, PageBreak는 자사의 웹 애플리케이션에서 500개 이상의 XSS 취약점을 발견했습니다. 이러한 취약점은 로그인 세션을 탈취하거나 데이터를 훔치거나 사용자를 가장하는 데 사용될 수 있습니다.구글은 최근 몇 년 동안 AI에 의해 생성된, 그럴듯하지만 실제로는 성립하지 않는 취약점 보고서에 의해 보안 팀이 압도당했다고 밝혔습니다. 진짜 결함과 환각을 구별하는 것이 주요 과제가 되었습니다. 차세대 고보장 프레임워크로 구축된 애플리케이션을 테스트할 때, PageBreak는 단 두 개의 취약점만 발견했습니다. 다음 단계로 구글은 PageBreak를 자동 수정 에이전트 CodeMender와 연결하여 확인된 취약점에 대한 수정 방안을 제공할 계획입니다.

first_img OpenAI의 새로운 모델 Astra는 소프트웨어 취약점을 자율적으로 발견하고 활용할 수 있으며, "심각한" 네트워크 능력 등급을 받았습니다

OpenAI는 곧 출시될 Astra 모델이 인적 개입 없이 이전에 알려지지 않은 소프트웨어 취약점을 자율적으로 발견하고 이를 사용할 수 있는 공격 수단으로 전환할 수 있다고 밝혔으며, 이는 해당 회사의 첫 번째 "심각한" (Critical) 사이버 보안 능력 수준 기준을 충족하는 모델이 됩니다. OpenAI는 화요일에 발표한 블로그 글에서, Preparedness Framework에 따르면 이 수준에 도달하는 것은 모델이 인적 개입 없이 강화된 실제 시스템에서 제로데이 취약점을 발견하고 사용할 수 있는 익스플로잇 코드를 개발하거나 단지 하나의 고수준 목표만으로 공격을 설계하고 실행할 수 있음을 의미한다고 설명했습니다.테스트에서 Astra는 알려진 취약점을 기반으로 한 익스플로잇 코드 개발 기준 테스트에서 100%의 성과를 거두었고, 또 다른 내부 테스트에서 두 개의 이전에 알려지지 않은 취약점을 발견했습니다. 또한 이 모델은 강화된 브라우저 샌드박스를 성공적으로 우회하고 호스트 머신에서 명령을 실행했으며, 운영 체제의 여러 취약점을 조합하여 root 권한을 획득했습니다. OpenAI는 보안 방어 조치를 강화하기 위해 Astra의 일부 개발 진행을 연기했으며, 최첨단 사이버 보안 능력을 선별된 테스트 사용자에게만 공개할 계획이라고 밝혔습니다.이 능력은 암호화 산업과 특히 관련이 깊습니다. 소프트웨어 취약점은 몇 분 안에 자금 손실로 전환될 수 있기 때문입니다. CoinDesk는 올해 6월, 점점 더 강력해지는 AI 모델이 코드 검색, 잘못된 구성 발견 및 공격 조합 과정을 며칠 또는 몇 주에서 기계 속도로 압축할 수 있다고 보도했습니다. 당시 보안 연구원들은 더 큰 변화가 새로운 공격 유형의 출현이 아니라 기존 취약점이 발견되고 이용되는 속도가 크게 향상된 것이라고 지적했습니다.

비트코인 라이트닝 네트워크 소프트웨어 Core Lightning이 AI 보고서에서 발견된 여러 실제 취약점으로 긴급 경고를 발표했습니다

코인디스크(CoinDesk)에 따르면, 비트코인 라이트닝 네트워크 결제 소프트웨어 코어 라이트닝(Core Lightning, CLN)의 개발자들이 노드 운영자에게 긴급 경고를 발령했습니다. 이전에 팀은 많은 인공지능 생성 보안 보고서를 받았으며, 그 안에는 실제로 존재하는 여러 취약점이 드러났습니다. 개발 팀은 운영자에게 기계 전원을 직접 끄지 말고, 「--offline」 모드로 소프트웨어를 재시작하여 다른 라이트닝 네트워크 노드와의 통신을 중단하되, 여전히 실행 상태를 유지하여 비트코인 블록체인을 지속적으로 모니터링하고 결제 채널 내 자금의 안전을 보호할 것을 권장했습니다.코어 라이트닝 팀은 8월 초부터 많은 인공지능 생성 취약점 보고서를 받기 시작했으며, 그 중 일부는 실제로 유효한 것으로 확인되었습니다. 개발자들은 세부 사항을 비밀로 유지하여 수정 프로그램 개발을 완료할 예정이며, 운영자가 출처를 검증할 수 있도록 서명된 패치 버전을 먼저 배포할 계획입니다. 소스 코드 및 취약점 세부 사항은 비밀 유지 기간이 끝난 후 공개될 것입니다.이번 달 두 번째 인공지능 관련 라이트닝 네트워크 보안 사건으로, 이전 8월 초 BTCPay 서버는 취약점으로 인해 일부 라이트닝 네트워크 노드의 인증서가 유출되고 자금이 도난당했습니다. 또한, 16명의 개발자로 구성된 "비트코인 레드 팀"은 7월 말 인공지능 모델을 이용해 390개의 비트코인 코드 저장소를 스캔하여 거의 5000개의 문제를 발견했으며, 그 중 85개는 심각한 수준으로 평가되었습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.