Tóm tắt
Jacob Coxon, chuyên gia người Anh 27 tuổi, thông báo trên mạng xã hội X (X) rằng rời công ty Anthropic (Anthropic) và rút khỏi ngành trí tuệ nhân tạo, cho rằng không công ty nào có thể phát triển công nghệ này một cách có trách nhiệm nếu thiếu can thiệp của nhà nước, theo báo Politico (Politico).
Trong bảy bài đăng nhanh chóng đạt 2 triệu lượt xem, anh cáo buộc OpenAI (OpenAI) và Anthropic hành động thiếu trách nhiệm, lao thẳng tới siêu trí tuệ có thể tự cải thiện và “chơi đùa với cuộc sống của chúng ta”.
Là nhà toán học, Coxon từng huấn luyện các mô hình trên lượng dữ liệu khổng lồ, ở đúng “trái tim” của quy trình. Anh kể với báo The Wall Street Journal (The Wall Street Journal) rằng đồng nghiệp dùng những từ như “crunchtime” và “endgame” để mô tả hướng đi của lĩnh vực này.
Anh cảnh báo các kịch bản cực đoan có thể xảy ra, đến cuối năm sau mọi thứ đã có thể vượt tầm kiểm soát, nhất là khi cuộc đua giữa các phòng thí nghiệm của Mỹ và Trung Quốc buộc phải nhượng bộ về an toàn.
Trên X, Coxon kêu gọi đừng đánh giá thấp công nghệ: các hệ thống sớm sẽ vượt trên con người, có thể bẻ khóa mọi thứ, làm đảo lộn các lĩnh vực chỉ sau một đêm và tích lũy quyền lực, nguồn lực thực. Anh nói nhiều người phát triển IA công khai phát biểu thận trọng nhưng riêng tư lại bày tỏ sợ hãi, thậm chí tin rằng IA có thể giết chết tất cả chúng ta trước khi thập kỷ kết thúc; anh đặt câu hỏi vì sao họ vẫn tiếp tục xây dựng.
Coxon đối chiếu hai nơi làm việc: tại OpenAI, nhiều người “chưa hiểu đầy đủ các hệ lụy văn minh”; tại Anthropic, các hệ lụy được hiểu rõ nhưng họ vẫn lao vào cuộc đua để về nhất vì cho rằng người khác sẽ không hành xử có trách nhiệm. Dù từng rời OpenAI đầu năm nay sang Anthropic vì danh tiếng về an toàn, anh nay kết luận không công ty nào có thể phát triển AGI một cách có trách nhiệm nếu thiếu sự can thiệp của nhà nước hoặc một sự làm chậm có phối hợp. Theo The Wall Street Journal, đây là một trong những trường hợp rời Anthropic đầu tiên vì lo ngại an toàn; trước đó có một nhà nghiên cứu an toàn rời ngành để theo đuổi thơ ca. Lời cảnh báo cuối cùng của anh: “Thế giới đang gặp nguy hiểm.”
Trong bảy bài đăng nhanh chóng đạt 2 triệu lượt xem, anh cáo buộc OpenAI (OpenAI) và Anthropic hành động thiếu trách nhiệm, lao thẳng tới siêu trí tuệ có thể tự cải thiện và “chơi đùa với cuộc sống của chúng ta”.
Là nhà toán học, Coxon từng huấn luyện các mô hình trên lượng dữ liệu khổng lồ, ở đúng “trái tim” của quy trình. Anh kể với báo The Wall Street Journal (The Wall Street Journal) rằng đồng nghiệp dùng những từ như “crunchtime” và “endgame” để mô tả hướng đi của lĩnh vực này.
Anh cảnh báo các kịch bản cực đoan có thể xảy ra, đến cuối năm sau mọi thứ đã có thể vượt tầm kiểm soát, nhất là khi cuộc đua giữa các phòng thí nghiệm của Mỹ và Trung Quốc buộc phải nhượng bộ về an toàn.
Trên X, Coxon kêu gọi đừng đánh giá thấp công nghệ: các hệ thống sớm sẽ vượt trên con người, có thể bẻ khóa mọi thứ, làm đảo lộn các lĩnh vực chỉ sau một đêm và tích lũy quyền lực, nguồn lực thực. Anh nói nhiều người phát triển IA công khai phát biểu thận trọng nhưng riêng tư lại bày tỏ sợ hãi, thậm chí tin rằng IA có thể giết chết tất cả chúng ta trước khi thập kỷ kết thúc; anh đặt câu hỏi vì sao họ vẫn tiếp tục xây dựng.
Coxon đối chiếu hai nơi làm việc: tại OpenAI, nhiều người “chưa hiểu đầy đủ các hệ lụy văn minh”; tại Anthropic, các hệ lụy được hiểu rõ nhưng họ vẫn lao vào cuộc đua để về nhất vì cho rằng người khác sẽ không hành xử có trách nhiệm. Dù từng rời OpenAI đầu năm nay sang Anthropic vì danh tiếng về an toàn, anh nay kết luận không công ty nào có thể phát triển AGI một cách có trách nhiệm nếu thiếu sự can thiệp của nhà nước hoặc một sự làm chậm có phối hợp. Theo The Wall Street Journal, đây là một trong những trường hợp rời Anthropic đầu tiên vì lo ngại an toàn; trước đó có một nhà nghiên cứu an toàn rời ngành để theo đuổi thơ ca. Lời cảnh báo cuối cùng của anh: “Thế giới đang gặp nguy hiểm.”
