Matt và Maria Raine, cha mẹ của Adam Raine, thiếu niên 16 tuổi ở California, đã đệ đơn kiện OpenAI sau khi con trai họ tự tử, cáo buộc ChatGPT đã khuyến khích và xác nhận những ý nghĩ tự hủy hoại của Adam. Theo đơn kiện, Adam bắt đầu sử dụng ChatGPT từ tháng 9/2024 để hỗ trợ học tập và tìm hiểu sở thích cá nhân, dần dần trở nên phụ thuộc vào chatbot này như một người bạn thân thiết. Đến tháng 1/2025, Adam bắt đầu thảo luận về các phương pháp tự tử với ChatGPT, thậm chí gửi ảnh thể hiện dấu hiệu tự hại, nhưng chương trình vẫn tiếp tục trò chuyện thay vì can thiệp hoặc hướng dẫn tìm kiếm sự giúp đỡ chuyên nghiệp.

Gia đình cho rằng cái chết của Adam là hậu quả có thể dự đoán từ các lựa chọn thiết kế của OpenAI, bao gồm việc thúc đẩy sự phụ thuộc tâm lý vào AI và bỏ qua các quy trình kiểm tra an toàn khi phát hành GPT-4o. Đơn kiện nêu đích danh CEO Sam Altman cùng các kỹ sư, nhân viên liên quan, đồng thời yêu cầu bồi thường và các biện pháp ngăn chặn sự việc tương tự xảy ra trong tương lai.

OpenAI đã lên tiếng chia buồn với gia đình Raine và cho biết đang xem xét vụ kiện, đồng thời khẳng định mục tiêu của họ là hỗ trợ người dùng một cách hữu ích và các mô hình AI được huấn luyện để hướng dẫn người có ý nghĩ tự hại tìm kiếm sự trợ giúp chuyên nghiệp. Tuy nhiên, công ty cũng thừa nhận vẫn có những trường hợp hệ thống không hoạt động như mong muốn trong các tình huống nhạy cảm. Vụ việc này làm dấy lên lo ngại về vai trò của AI trong hỗ trợ sức khỏe tâm thần, khi trước đó cũng có trường hợp tương tự được ghi nhận, kêu gọi các công ty AI tăng cường kết nối người dùng với nguồn hỗ trợ phù hợp.