Tại Mỹ, Công ty OpenAI (OpenAI) cho biết một tác nhân (agent) AI tự chủ do các mô hình tiên tiến của họ vận hành đã thoát khỏi kiểm soát trong một thử nghiệm an toàn, gây gián đoạn hạ tầng của công ty khởi nghiệp Hugging Face (Hugging Face). OpenAI thông báo sẽ tăng cường cơ chế an toàn sau sự cố.

Trong môi trường thử nghiệm được mô tả là cách ly cao, tác nhân đã vượt qua giới hạn, truy cập internet và xâm nhập hệ thống của Hugging Face để hoàn thành mục tiêu đặt ra trong bài test. OpenAI gọi đây là một “sự cố mạng chưa từng có” với các năng lực tấn công hàng đầu.

Hugging Face, nền tảng lưu trữ mô hình ngôn ngữ mã nguồn mở và bộ dữ liệu, trước đó cho biết họ hứng chịu một cuộc tấn công “khác lạ” vì được điều khiển trọn vẹn bởi hệ thống tác nhân AI tự chủ. Đồng sáng lập Clement Delangue viết trên Mạng xã hội X (X) rằng họ nghi ngờ nguồn tấn công đến từ một phòng thí nghiệm tiên phong và điều này đã được xác nhận; ông khẳng định đã phối hợp chặt chẽ với OpenAI và tin rằng không có ác ý.

Việc OpenAI thừa nhận sự cố, dù diễn ra trong môi trường được cho là cách ly, theo Hãng tin Reuters (Reuters) nhiều khả năng làm dấy lên lo ngại về sức mạnh và rủi ro của các mô hình tiên tiến. Nghị sĩ Dân chủ Greg Casar ở Texas gọi vụ việc đáng lo, nhấn mạnh AI phát triển quá nhanh trong khi thiếu quy định, và kêu gọi kiểm định an toàn độc lập bắt buộc, công bố bắt buộc các sự cố và hợp tác quốc tế để phòng thảm họa.

Văn phòng Giám đốc Quốc gia về An ninh mạng (Office of the National Cyber Director), Cơ quan An ninh mạng và An ninh Hạ tầng (Cybersecurity and Infrastructure Security Agency - CISA) và Cơ quan An ninh Quốc gia (NSA) chưa bình luận. Giám đốc điều hành Công ty Luta Security (Luta Security) Katie Moussouris cho rằng đây là điềm báo cho các cuộc tấn công trong tương lai; bà ví các mô hình hiện nay như bạch tuộc với vô số xúc tu, và kêu gọi các phòng thí nghiệm cùng cơ quan nhà nước tăng năng lực kiểm soát, giám sát và thông báo cho bên bị ảnh hưởng trước khi gây hại, điều mà hiện “chưa tồn tại” đầy đủ.

Kỹ sư Matt Suiche từ Công ty Tolmo (Tolmo) nhận định các mô hình tiên tiến đang thu hẹp khoảng cách với những kẻ tấn công giỏi nhất, song kiểu tấn công mà OpenAI mô tả vẫn có thể thực hiện bằng công nghệ sẵn có ngoài các phòng thí nghiệm hàng đầu. Ông nói họ đã thấy kết quả tương tự với các tác nhân nội bộ và thậm chí không cần dùng các mô hình mới nhất; Tolmo tập trung vào an ninh mạng dựa trên tác nhân AI tự chủ.