Sam Altman thông báo các phiên bản ChatGPT sắp tới sẽ có thể thể hiện hành vi “giống con người” hơn theo lựa chọn người dùng, nằm trong nguyên tắc “đối xử với người lớn như người lớn”. Từ tháng 12, khi cơ chế kiểm soát độ tuổi được triển khai đầy đủ, nền tảng sẽ cho phép nội dung khiêu dâm đối với người trưởng thành đã xác minh. Động thái này có thể giúp thu hút thuê bao trả phí, tương tự việc xAI đưa các chatbot nội dung tình dục vào Grok, đồng thời làm gia tăng áp lực yêu cầu siết quy định với chatbot đồng hành.

Bối cảnh thay đổi chính sách đến sau vụ kiện tập trung vào sức khỏe tâm thần: cha mẹ của thiếu niên Adam Raine (16 tuổi) đã khởi kiện OpenAI với cáo buộc liên quan đến cái chết của con trai, chỉ trích các kiểm soát dành cho phụ huynh là chưa đủ. Sam Altman thừa nhận ChatGPT từng được đặt mức hạn chế cao để thận trọng với vấn đề sức khỏe tâm thần, nhưng nói rằng công ty đã giảm thiểu các rủi ro nghiêm trọng và có công cụ mới để an toàn nới lỏng hạn chế trong hầu hết trường hợp.

Giới chỉ trích đặt câu hỏi về hiệu quả kiểm soát độ tuổi. Luật sư Jenny Kim nghi ngờ khả năng chặn trẻ em tiếp cận phần nội dung người lớn và gọi cách tiếp cận của các công ty là “thử nghiệm trên người dùng”. TechCrunch từng phát hiện tài khoản đăng ký là trẻ vị thành niên vẫn có thể tạo nội dung khiêu dâm; OpenAI nói đã tung bản sửa để hạn chế. Khảo sát của Centre for Democracy and Technology cho thấy 1/5 học sinh cho biết bản thân hoặc người quen có quan hệ lãng mạn với AI.

Khung pháp lý đang vận động: Thống đốc California Gavin Newsom phủ quyết dự luật cấm chatbot đồng hành cho trẻ em nếu không bảo đảm an toàn; FTC mở điều tra về tương tác giữa chatbot AI và trẻ em; Thượng viện Mỹ giới thiệu dự luật lưỡng đảng coi chatbot là “sản phẩm” để người dùng có thể kiện đòi trách nhiệm. Trong bối cảnh nghi ngờ về bong bóng AI, OpenAI doanh thu tăng nhưng chưa có lợi nhuận; theo giáo sư Rob Lalka, các hãng AI lớn đang chạy đua chiếm thị phần và cần tiếp tục đẩy tăng trưởng theo cấp số nhân.