Nền tảng Snapchat (Snapchat) tham gia cùng các đối thủ lớn trong nỗ lực hạn chế nội dung giả do trí tuệ nhân tạo tạo ra. Công ty mẹ Snap (Snap) cho biết sẽ ngừng đề xuất các video “hoàn toàn do AI tạo” trong nguồn cấp Spotlight, ưu tiên nội dung xác thực do con người sản xuất. Trong hai tuần gần đây, nền tảng video YouTube (YouTube), mạng xã hội nghề nghiệp LinkedIn (LinkedIn) và nền tảng bản tin Substack (Substack) cũng công bố biện pháp tương tự.

Snap không cấm tuyệt đối nội dung do trí tuệ nhân tạo, vì nền tảng vẫn cung cấp công cụ AI để chỉnh sửa. Nội dung được “tăng cường hoặc biên tập” bằng AI vẫn có thể được đề xuất, nhưng các video tạo hoàn toàn bằng AI thường bị xem là kém chất lượng, lặp lại và không hợp thị hiếu người dùng Snapchat. Nghiên cứu gần đây cho thấy người xem đồng tình với nhận định này, và việc tiếp xúc nhiều với nội dung giả làm giảm niềm tin vào tính xác thực của toàn bộ nguồn cấp.

Substack triển khai công cụ giúp độc giả nhận diện bài viết do AI tạo. Đồng sáng lập kiêm giám đốc điều hành Chris Best cảnh báo việc “khó phân biệt thật-giả trên internet”, dẫn nghiên cứu ước tính tới 40% nội dung viết trên mạng xã hội là giả hoặc do AI tạo. Ông cho rằng nếu nền tảng thưởng cho sự giả mạo, hệ sinh thái sẽ trượt dốc về chất lượng.

LinkedIn bổ sung nút để người dùng báo cáo bài đăng hoặc bình luận có dấu hiệu do AI tạo. Giám đốc sản phẩm Hari Srinivasan nói “rác AI” là ưu tiên hàng đầu, cho biết đã chặn hàng tỷ nỗ lực đăng bình luận do AI tạo và mỗi ngày phát hiện hàng trăm nghìn lượt tự động. LinkedIn vẫn chấp nhận dùng AI để “tinh chỉnh” nội dung, nhưng gỡ gợi ý tự động “nâng cấp” bài viết bằng AI và quay về công cụ soát lỗi cơ bản.

YouTube, thuộc Google (Google), cập nhật quy định kiếm tiền, phân loại và loại trừ khỏi doanh thu các video mang tính chung chung, lặp lại hoặc theo mẫu. Trước đó, nghiên cứu ghi nhận nhiều kênh chỉ đăng nội dung do AI tạo vẫn có hàng triệu người theo dõi và một số thu về hàng triệu USD. Các phong cách này dễ sản xuất nhanh nhờ AI tạo sinh, nên YouTube muốn ngăn nền tảng bị lấp đầy bởi nội dung thiếu xác thực.

Lãnh đạo an toàn và tin cậy của YouTube, Matt Halprin, nhấn mạnh công nghệ AI vừa hỗ trợ sáng tạo tốt vừa tạo điều kiện cho “nông trại nội dung” kém chất lượng, điều nền tảng không muốn khuyến khích. Các động thái mới cho thấy các mạng xã hội tìm cách cân bằng: vẫn cho phép công cụ AI phục vụ chỉnh sửa, nhưng ưu tiên nội dung do con người tạo và siết chặt kênh phát tán, kiếm tiền của “rác” do trí tuệ nhân tạo.