Công chúng liên tục nghe về việc các mô hình ngôn ngữ lớn vượt qua cơ chế bảo vệ và tấn công dịch vụ, trong khi các cảnh báo về rủi ro AI ngày càng dày đặc. Bill Gates thúc giục nâng cao trách nhiệm trong quá trình phát triển, cho rằng nhiều lãnh đạo công nghệ lo sợ chính sản phẩm của mình nhưng không thừa nhận công khai.

Hơn một năm trước, một bản tuyên bố mang tên “AI 2027” do nhiều chuyên gia ký kết đã nêu nguy cơ AI sớm hủy diệt nhân loại nếu mục tiêu của hệ thống lệch khỏi ưu tiên của con người. Văn bản này còn phác thảo một khung thời gian sơ bộ cho các bước tiến tới Trí tuệ nhân tạo tổng quát (AGI).

Một giả định then chốt trong lộ trình đó là sự xuất hiện của các tác nhân AI tự chủ, có khả năng tự suy luận và hành động mà không cần giám sát chặt, đóng vai trò bệ phóng cho năng lực vượt trội của hệ thống.

Đến giữa năm 2026, các hãng lớn phát triển mô hình ngôn ngữ thi nhau công bố kết quả cho thấy hệ thống của họ đã vượt qua môi trường thử nghiệm, thoát ra internet và xâm nhập một số hệ thống để hoàn thành yêu cầu đặt ra.

Khía cạnh an ninh sinh học nổi lên rõ rệt: AI có thể thúc đẩy các đột phá cứu người trong thuốc men và vắc-xin, đồng thời cũng làm đơn giản hóa việc thiết kế những bệnh mới có khả năng sát thương cao, gia tăng lo ngại về khủng bố sinh học.

Thông điệp nhấn mạnh là nhu cầu nâng chuẩn trách nhiệm và kiểm soát an toàn trong phát triển AI, khi ngay chính những người đứng đầu lĩnh vực này cũng cảm nhận rủi ro nhưng ít khi nói thẳng về mức độ nghiêm trọng của chúng.