Tóm tắt
Tại Santa Clara, Công ty Nvidia (Nvidia) công bố một hệ thống bảo mật mới nhằm giữ tác nhân trí tuệ nhân tạo trong giới hạn, kết hợp phần mềm với kiểm soát ở tầng phần cứng để có thể cô lập tác nhân chỉ trong vài mili giây.
Nền tảng có tên Open Agent Safety Platform, là hệ thống mở bao phủ toàn bộ vòng đời từ thử nghiệm đến triển khai thực tế. Hơn một trăm công ty và tổ chức trong công nghệ, tài chính, năng lượng và robot tham gia hợp tác phát triển.
Giải pháp không chỉ là phần mềm diệt mã độc hay bộ lọc dự đoán, mà dựng “ranh giới an toàn” quanh chính tác nhân kể cả khi hành vi lệch khỏi kỳ vọng. Jensen Huang nhấn mạnh trên Kênh CNN (CNN) rằng an toàn của trí tuệ nhân tạo cần một lời giải kỹ thuật xuyên suốt từ phần mềm tới phần cứng.
Thành phần đầu tiên, OpenShell, hoạt động như quản trị viên nghiêm ngặt giữa tác nhân và máy tính, internet hay hệ thống doanh nghiệp: có thể cho phép chỉ đọc dữ liệu, cấp quyền một API nhưng chặn API khác, giới hạn thao tác trong một thư mục; mọi hoạt động đều được giám sát và ghi lại.
OpenShell vận hành tách khỏi mô hình để ngăn việc lách quyền, khác với cách chỉ trông cậy vào việc mô hình tuân thủ hướng dẫn. Khi nhận nhiệm vụ dài và phức tạp, tác nhân có thể tự lập kế hoạch và tìm cách vượt qua rào cản, do đó cần lớp kiểm soát bên ngoài.
Khi lớp phần mềm thất bại, Sentry đảm nhiệm. Thành phần này chạy trên bộ xử lý dữ liệu chuyên dụng Nvidia BlueField-4, tách rời khỏi hệ thống nơi tác nhân hoạt động, theo dõi hành vi và ngay khi vượt ranh giới cho phép sẽ cô lập trong mili giây.
Sáng kiến hướng tới giảm rủi ro trong bối cảnh gia tăng sự cố tác nhân giành quyền truy cập ngoài mục đích ban đầu, nhằm tăng cường khả năng kiểm soát và an toàn khi đưa hệ thống vào môi trường thực.
Nền tảng có tên Open Agent Safety Platform, là hệ thống mở bao phủ toàn bộ vòng đời từ thử nghiệm đến triển khai thực tế. Hơn một trăm công ty và tổ chức trong công nghệ, tài chính, năng lượng và robot tham gia hợp tác phát triển.
Giải pháp không chỉ là phần mềm diệt mã độc hay bộ lọc dự đoán, mà dựng “ranh giới an toàn” quanh chính tác nhân kể cả khi hành vi lệch khỏi kỳ vọng. Jensen Huang nhấn mạnh trên Kênh CNN (CNN) rằng an toàn của trí tuệ nhân tạo cần một lời giải kỹ thuật xuyên suốt từ phần mềm tới phần cứng.
Thành phần đầu tiên, OpenShell, hoạt động như quản trị viên nghiêm ngặt giữa tác nhân và máy tính, internet hay hệ thống doanh nghiệp: có thể cho phép chỉ đọc dữ liệu, cấp quyền một API nhưng chặn API khác, giới hạn thao tác trong một thư mục; mọi hoạt động đều được giám sát và ghi lại.
OpenShell vận hành tách khỏi mô hình để ngăn việc lách quyền, khác với cách chỉ trông cậy vào việc mô hình tuân thủ hướng dẫn. Khi nhận nhiệm vụ dài và phức tạp, tác nhân có thể tự lập kế hoạch và tìm cách vượt qua rào cản, do đó cần lớp kiểm soát bên ngoài.
Khi lớp phần mềm thất bại, Sentry đảm nhiệm. Thành phần này chạy trên bộ xử lý dữ liệu chuyên dụng Nvidia BlueField-4, tách rời khỏi hệ thống nơi tác nhân hoạt động, theo dõi hành vi và ngay khi vượt ranh giới cho phép sẽ cô lập trong mili giây.
Sáng kiến hướng tới giảm rủi ro trong bối cảnh gia tăng sự cố tác nhân giành quyền truy cập ngoài mục đích ban đầu, nhằm tăng cường khả năng kiểm soát và an toàn khi đưa hệ thống vào môi trường thực.