Tóm tắt
Jacob Coxon, nhà nghiên cứu từng làm ba năm trong lĩnh vực tiền huấn luyện tại Công ty OpenAI (OpenAI) và Công ty Anthropic (Anthropic), cho rằng cuộc đua phát triển AI ngày càng mạnh đang đe dọa tương lai nhân loại. Anh rời Anthropic và khẳng định cả hai công ty đang lao tới siêu trí tuệ, các hệ thống vượt trội con người trong hầu hết lĩnh vực đòi hỏi trí tuệ.
Trên mạng xã hội X, Coxon thông báo từ chức và cáo buộc các công ty không hành động có trách nhiệm. Anh từng tham gia công việc liên quan đến mô hình GPT-4o ở OpenAI, chuyển sang Anthropic vào tháng 7 và đến tháng 9 tiếp tục rời đi. Coxon nói tốc độ phát triển AI không chậm lại mà còn tăng, dự báo sớm xuất hiện hệ thống siêu phàm có thể hack gần như mọi thứ, lật tung ngành nghề chỉ sau một đêm và giành quyền lực lẫn nguồn lực.
Coxon còn nêu rằng nhiều người trực tiếp xây dựng AI thực sự tin công nghệ này có thể giết hết loài người trước cuối thập kỷ và điều đó không phải chiêu marketing. Theo anh, một số quản lý và nhà nghiên cứu hàng đầu làm dịu phát biểu nơi công chúng nhưng tỏ ra sợ hãi trong trao đổi riêng. OpenAI và Anthropic chưa phản hồi chính thức.
Bài viết giải thích siêu trí tuệ là hệ thống giả định vượt xa con người ở hầu hết lĩnh vực, không chỉ trong các nhiệm vụ chuyên biệt như cờ vua hay lập trình. Về lý thuyết, nó có thể đồng thời xuất sắc trong khoa học, hoạch định chiến lược, nghiên cứu, thuyết phục con người và phát minh công nghệ mới, kịch bản mà Coxon coi là mang tính rủi ro nghiêm trọng.
Trả lời câu hỏi vì sao vẫn tiếp tục xây dựng, Coxon cho rằng ở OpenAI nhiều người chưa thấu suốt mức độ hệ trọng với tương lai văn minh nhân loại. Ở Anthropic, rủi ro được hiểu rõ hơn nhưng công ty bị khóa trong cuộc đua trở thành người về đích đầu tiên, tin rằng đối thủ sẽ không hành động có trách nhiệm nên họ phải tự làm, bất chấp nguy cơ. Nỗi sợ tụt lại phía sau khiến không bên nào muốn chậm lại.
Theo Coxon, bất kỳ nỗ lực băng qua giai đoạn chuyển tiếp nhanh sang hệ tự cải thiện mạnh mẽ đều phải đòi hỏi mức độ chắc chắn phi thường rằng không có con đường an toàn hơn. Anh cảnh báo tránh tâm lý “đi tắt” qua giai đoạn rủi ro này nếu chưa có bằng chứng vững chắc về an toàn.
Coxon không kêu gọi dừng hẳn phát triển AI mà tin vào khả năng điều phối và thỏa thuận quốc tế giữa các phòng thí nghiệm lớn. Dù quan điểm của anh không phải bằng chứng khoa học cho kịch bản tận thế, đây là lời cảnh báo đáng chú ý từ người từng làm việc trong hai cơ sở hàng đầu về AI.
Trên mạng xã hội X, Coxon thông báo từ chức và cáo buộc các công ty không hành động có trách nhiệm. Anh từng tham gia công việc liên quan đến mô hình GPT-4o ở OpenAI, chuyển sang Anthropic vào tháng 7 và đến tháng 9 tiếp tục rời đi. Coxon nói tốc độ phát triển AI không chậm lại mà còn tăng, dự báo sớm xuất hiện hệ thống siêu phàm có thể hack gần như mọi thứ, lật tung ngành nghề chỉ sau một đêm và giành quyền lực lẫn nguồn lực.
Coxon còn nêu rằng nhiều người trực tiếp xây dựng AI thực sự tin công nghệ này có thể giết hết loài người trước cuối thập kỷ và điều đó không phải chiêu marketing. Theo anh, một số quản lý và nhà nghiên cứu hàng đầu làm dịu phát biểu nơi công chúng nhưng tỏ ra sợ hãi trong trao đổi riêng. OpenAI và Anthropic chưa phản hồi chính thức.
Bài viết giải thích siêu trí tuệ là hệ thống giả định vượt xa con người ở hầu hết lĩnh vực, không chỉ trong các nhiệm vụ chuyên biệt như cờ vua hay lập trình. Về lý thuyết, nó có thể đồng thời xuất sắc trong khoa học, hoạch định chiến lược, nghiên cứu, thuyết phục con người và phát minh công nghệ mới, kịch bản mà Coxon coi là mang tính rủi ro nghiêm trọng.
Trả lời câu hỏi vì sao vẫn tiếp tục xây dựng, Coxon cho rằng ở OpenAI nhiều người chưa thấu suốt mức độ hệ trọng với tương lai văn minh nhân loại. Ở Anthropic, rủi ro được hiểu rõ hơn nhưng công ty bị khóa trong cuộc đua trở thành người về đích đầu tiên, tin rằng đối thủ sẽ không hành động có trách nhiệm nên họ phải tự làm, bất chấp nguy cơ. Nỗi sợ tụt lại phía sau khiến không bên nào muốn chậm lại.
Theo Coxon, bất kỳ nỗ lực băng qua giai đoạn chuyển tiếp nhanh sang hệ tự cải thiện mạnh mẽ đều phải đòi hỏi mức độ chắc chắn phi thường rằng không có con đường an toàn hơn. Anh cảnh báo tránh tâm lý “đi tắt” qua giai đoạn rủi ro này nếu chưa có bằng chứng vững chắc về an toàn.
Coxon không kêu gọi dừng hẳn phát triển AI mà tin vào khả năng điều phối và thỏa thuận quốc tế giữa các phòng thí nghiệm lớn. Dù quan điểm của anh không phải bằng chứng khoa học cho kịch bản tận thế, đây là lời cảnh báo đáng chú ý từ người từng làm việc trong hai cơ sở hàng đầu về AI.
