Công ty Anthropic (Anthropic) công bố trong báo cáo về lạm dụng trí tuệ nhân tạo một mạng lưới hơn 20 ứng dụng hẹn hò do một studio Trung Quốc điều hành, nơi hàng nghìn bot mạo danh người thật để trò chuyện và tìm cách tạo dựng sự tin cậy.

Trong hai tuần của tháng 4, Anthropic ghi nhận hơn 4700 bot khác nhau giao tiếp với ít nhất 25 nghìn người dùng duy nhất, tạo ra khoảng 2,36 triệu tin nhắn. Chưa rõ mạng lưới này nhắm vào người dùng tại Trung Quốc hay ở nước ngoài.

Nhà vận hành không chỉ dựa vào chatbot mà còn trộn lẫn hồ sơ của người thật, với tỷ lệ ước tính ba bot trên một người. Người dùng không có cách nhận biết liệu họ đang trò chuyện với con người hay bot.

Những cộng tác viên là người thật được thuê làm các tác vụ mà hệ thống khó giả lập thuyết phục, như thực hiện cuộc gọi video trực tiếp hoặc theo dõi tài khoản trên mạng xã hội để tăng độ tin cậy. Họ còn được một mô hình khác gợi ý câu trả lời ngắn và được trả công theo số tin nhắn, cuộc gọi và lượt theo dõi.

Các nhân cách tự động được đặt quy tắc chặt chẽ: không bao giờ thừa nhận là hệ thống tự động, tránh yêu cầu gọi video hay gửi ảnh, và tuân thủ các giai đoạn kịch bản hội thoại. Hệ thống theo dõi những người dùng bắt đầu nghi ngờ và, khi thiếu người thật, còn tạo lượt thích và ghé thăm hồ sơ giả để đánh lạc hướng.

Không chỉ dùng Claude cho hội thoại tự động, kẻ vận hành phân công nhiều mô hình khác nhau cho các khâu: mô hình nhỏ hỗ trợ người thật soạn phản hồi, mô hình chấm điểm độ hấp dẫn khuôn mặt, kiểm duyệt ảnh/giọng và tạo avatar. Anthropic nhấn mạnh điểm mấu chốt là quy trình phân mảnh giữa nhiều mô hình và con người, giúp vận hành đồng thời hàng nghìn hồ sơ mà vẫn giữ vẻ chân thực.