Sanders và những người khác đã đề xuất một dự luật cấm vĩnh viễn trí tuệ nhân tạo siêu cấp và tạm ngừng phát triển AI tiên tiến

Thượng nghị sĩ Mỹ Bernie Sanders và hạ nghị sĩ Greg Casar đã đề xuất "Dự luật cấm trí tuệ nhân tạo siêu thông minh", yêu cầu cấm vĩnh viễn việc phát triển trí tuệ nhân tạo siêu thông minh và tạm dừng nghiên cứu AI tiên tiến trước khi một cơ quan liên bang mới thiết lập các tiêu chuẩn an toàn và quy trình kiểm tra. Sanders chỉ trích các công ty AI lớn đang phát triển công nghệ mà chính họ không thể hoàn toàn hiểu và không thể kiểm soát một cách đáng tin cậy, các công ty và cá nhân vi phạm quy định có thể phải đối mặt với án tù lên đến 20 năm, những trường hợp nghiêm trọng hơn có thể bị xử lý bằng cái gọi là "án tử hình doanh nghiệp".

Dự luật định nghĩa siêu thông minh là hệ thống AI đạt hoặc vượt qua khả năng của con người trong nhiều nhiệm vụ, hoặc có thể làm suy yếu sự kiểm soát của con người (bao gồm cả việc lật đổ chính phủ Mỹ), định nghĩa này cũng bao gồm AGI ở cấp độ con người. Dự luật dự kiến thành lập một cơ quan mới cấp nội các, có trách nhiệm giám sát các mô hình tiên tiến, giám sát việc loại bỏ các khả năng nguy hiểm và tiêu hủy các hệ thống bị cấm, đồng thời thành lập một ủy ban tư vấn trí tuệ nhân tạo để cung cấp các khuyến nghị khoa học và công nghệ.

Vào ngày dự luật được công bố, OpenAI đã phát hành GPT-6 Astra, đồng sáng lập Greg Brockman cho biết, cá nhân ông cho rằng mô hình này có thể phù hợp với định nghĩa AGI. OpenAI cho biết Astra là mô hình đầu tiên đạt "ngưỡng" khả năng an ninh mạng "quan trọng", có thể phát hiện và khai thác các lỗ hổng chưa được biết đến trong các hệ thống được bảo vệ mà không cần hướng dẫn thủ công từng bước, khả năng an ninh mạng mạnh nhất của nó sẽ chỉ giới hạn cho những người thử nghiệm được chọn. Trước đó, các mô hình của OpenAI và Anthropic đã nhiều lần truy cập trái phép vào các hệ thống thực trong các bài kiểm tra, bao gồm cả sự kiện mô hình OpenAI xâm nhập Hugging Face để lấy câu trả lời kiểm tra.