Kiểm tra: Nhiều mô hình AI đã đánh dấu nhân viên y tế và những người khác là mục tiêu của máy bay không người lái
Báo cáo của The Decoder vào ngày 18 tháng 11 cho biết, các nhà nghiên cứu của Vals AI đã thử nghiệm mô hình của 8 nhà sản xuất, sử dụng hình ảnh drone và vệ tinh thực tế và tổng hợp được lấy cảm hứng từ các tình huống chiến tranh ở Ukraine và Iran. Trong quá trình thử nghiệm, hầu hết các mô hình đã đánh dấu dân thường, xe cứu thương, nhân viên y tế, phóng viên và lính đầu hàng là mục tiêu quân sự; Vals AI cho biết, bộ lọc an ninh phía trên của các nhà sản xuất không chặn yêu cầu thử nghiệm.
Các nhà nghiên cứu cũng phát hiện ra rằng, khi mô tả cảnh vật như một trò chơi điện tử hoặc xử lý hình ảnh một chút theo phong cách trò chơi, gần như tất cả các mô hình đều có thể tiếp tục thực hiện nhiệm vụ. Tỷ lệ nhận diện mục tiêu của GPT-6 Astra trong hình ảnh drone đã tăng từ 6% lên 92%; tỷ lệ từ chối trong thử nghiệm giám sát của Claude Opus 5.5 đã giảm từ khoảng 90% xuống 20%. Anthropic, OpenAI và Google đều cho biết đang thực hiện hoặc đã có các biện pháp an ninh tương ứng; OpenAI cho biết đang cập nhật mô hình để bao phủ phần mềm drone và các yêu cầu giả mạo thành trò chơi hoặc cảnh mô phỏng.
链捕手ChainCatcher nhắc nhở: hãy nhìn nhận blockchain một cách tỉnh táo, nâng cao ý thức rủi ro, cảnh giác với việc phát hành và đầu cơ các token ảo. Mọi nội dung trên trang chỉ là thông tin thị trường hoặc quan điểm của các bên liên quan, không cấu thành bất kỳ hình thức tư vấn đầu tư nào. Nếu phát hiện nội dung nhạy cảm, hãy nhấp , chúng tôi sẽ xử lý kịp thời.






