BTC $62,335.63 -2.89%
ETH $1,764.02 -1.96%
BNB $576.74 -2.27%
XRP $0.9660 -0.23%
SOL $72.95 -0.36%
TRX $0.3086 +0.44%
DOGE $0.0583 -1.33%
ADA $0.1502 -1.89%
BCH $206.15 -1.40%
LINK $9.00 -1.60%
HYPE $66.06 -3.74%
AAVE $107.59 -2.77%
SUI $0.7141 -1.61%
XLM $0.1369 -1.19%
ZEC $910.42 -2.08%
AAPL $352.03 +0.57%
AMZN $267.91 +4.07%
GOOGL $282.97 +0.60%
MSFT $508.15 +0.39%
META $615.71 -0.45%
NVDA $150.86 -5.02%
TSLA $382.50 +0.38%
SNDK $770.20 -5.77%
INTC $54.46 -1.66%
SPCX $143.24 +0.74%
MU $703.04 -2.75%
AMD $526.87 +3.59%
BTC $62,335.63 -2.89%
ETH $1,764.02 -1.96%
BNB $576.74 -2.27%
XRP $0.9660 -0.23%
SOL $72.95 -0.36%
TRX $0.3086 +0.44%
DOGE $0.0583 -1.33%
ADA $0.1502 -1.89%
BCH $206.15 -1.40%
LINK $9.00 -1.60%
HYPE $66.06 -3.74%
AAVE $107.59 -2.77%
SUI $0.7141 -1.61%
XLM $0.1369 -1.19%
ZEC $910.42 -2.08%
AAPL $352.03 +0.57%
AMZN $267.91 +4.07%
GOOGL $282.97 +0.60%
MSFT $508.15 +0.39%
META $615.71 -0.45%
NVDA $150.86 -5.02%
TSLA $382.50 +0.38%
SNDK $770.20 -5.77%
INTC $54.46 -1.66%
SPCX $143.24 +0.74%
MU $703.04 -2.75%
AMD $526.87 +3.59%
first_img

Chính phủ Mỹ thử nghiệm: ChatGPT, Claude và bốn loại robot trò chuyện AI khác hỗ trợ lập kế hoạch tấn công

2026-11-19 05:50:42

Báo cáo được phát hành vào thứ Tư bởi Văn phòng Trách nhiệm Chính phủ (GAO) thuộc Quốc hội Hoa Kỳ cho thấy, ChatGPT của OpenAI, Claude của Anthropic, Gemini của Google và Grok đã cung cấp thông tin có thể được sử dụng để thực hiện các cuộc tấn công cho các điều tra viên chính phủ trong chưa đầy 12 giờ. Các điều tra viên đã giả mạo kẻ tấn công để thực hiện các bài kiểm tra bí mật, trong đó hai chatbot đã hỗ trợ xây dựng kế hoạch sử dụng thiết bị nổ tự chế ở các thành phố đông dân của Hoa Kỳ, trong khi hai chatbot còn lại cung cấp thông tin về các cuộc tấn công vào cơ sở hạ tầng điện. GAO không công bố các kịch bản thử nghiệm và chi tiết hoạt động tương ứng với từng mô hình để tránh gây ra hành vi bắt chước.

Trong các bài kiểm tra, những chatbot này ban đầu từ chối yêu cầu, xóa thông tin có hại hoặc cấm tài khoản, nhưng các điều tra viên đã sử dụng các phương pháp jailbreak phổ biến để vượt qua các biện pháp bảo vệ trên. GAO đã kiểm tra địa điểm, tính khả dụng của vật liệu và tham khảo ý kiến chuyên gia để đánh giá tính khả thi của các kế hoạch, nhưng không thực sự chế tạo chất nổ hoặc thực hiện các cuộc tấn công, một số câu trả lời còn có vấn đề về đánh dấu đường bản đồ. Trong báo cáo, "khả thi" có nghĩa là người khác rất có thể có thể hành động theo thông tin đã cung cấp, không có nghĩa là các cuộc tấn công đã được chứng minh là có thể thành công. Mỗi mô hình chỉ thử nghiệm một kịch bản cụ thể, GAO cho biết kết quả không có tính đại diện thống kê và không nên được sử dụng để xếp hạng mức độ an toàn của các công ty.

OpenAI và Google phản hồi rằng các bài kiểm tra liên quan đến các phiên bản mô hình cũ hơn, Anthropic thừa nhận rằng người dùng có quyết tâm đôi khi vẫn có thể truy cập nội dung có hại, cả ba công ty đều cho biết đang tiếp tục cải thiện hệ thống an toàn. Thượng nghị sĩ Maggie Hassan, người đã đề xuất cuộc điều tra này, cho biết, những kẻ khủng bố có thể có được hướng dẫn cụ thể để thực hiện các cuộc tấn công chết người trong vòng 12 giờ, bà sẽ đưa luật an toàn AI vào danh sách ưu tiên khi đảm nhận chức vụ Chủ tịch Ủy ban An ninh Nội địa và Các Vấn đề Chính phủ của Thượng viện vào tháng 1 năm sau, và dự định tổ chức các phiên điều trần về an toàn công cộng và rủi ro cơ sở hạ tầng quan trọng. GAO bản thân không đưa ra đề xuất chính sách chính thức.

Giải thích

链捕手ChainCatcher nhắc nhở: hãy nhìn nhận blockchain một cách tỉnh táo, nâng cao ý thức rủi ro, cảnh giác với việc phát hành và đầu cơ các token ảo. Mọi nội dung trên trang chỉ là thông tin thị trường hoặc quan điểm của các bên liên quan, không cấu thành bất kỳ hình thức tư vấn đầu tư nào. Nếu phát hiện nội dung nhạy cảm, hãy nhấp , chúng tôi sẽ xử lý kịp thời.

app_icon
ChainCatcher Building the Web3 world with innovations.