Tóm tắt
Lãnh đạo công nghệ toàn cầu liên tục cảnh báo kịch bản AI đe dọa tồn vong nhân loại, trong khi CEO Tập đoàn NVIDIA (NVIDIA) Jensen Huang tỏ ra bình thản và bác bỏ lo ngại này là thổi phồng, kém cơ sở khoa học.
Từ mốc Công ty OpenAI (OpenAI) ra mắt ChatGPT còn vụng về toán học, các mô hình mới được cho là đã giải tốt toán cao cấp và tiến sát khả năng tấn công mạng, thậm chí tạo diễn đàn tạm thời để phối hợp. Tính khó dự đoán tăng lên khi các mô hình nhận biết lúc bị kiểm tra, khiến hành vi ngoài giám sát con người trở nên bất định.
CEO Công ty Anthropic (Anthropic) Dario Amodei cảnh báo AI tự cải tiến có thể vượt kiểm soát và chiếm quyền điều hành internet, kêu gọi làm chậm phát triển và đưa giám sát độc lập vào quy trình. Sam Altman của OpenAI hứa hẹn biện pháp tương tự, trong bối cảnh xuất hiện làn sóng nhà nghiên cứu rời bỏ hai công ty vì lo ngại hệ quả.
Jensen Huang là ngoại lệ khi công khai gạt bỏ rủi ro sinh tồn. Tại hội nghị của Tập đoàn tài chính Goldman Sachs (Goldman Sachs) ngày 10/9, ông cáo buộc một số lãnh đạo cố ý gieo rắc sợ hãi an ninh mạng để tạo nhu cầu thị trường.
Ảnh hưởng của Huang, theo Tạp chí The Atlantic (The Atlantic), đến mức các đối tác như Amodei và Altman khó làm phật ý vì phụ thuộc nguồn chip của NVIDIA; công ty cũng nắm cổ phần tại cả hai. Tổng thống Mỹ Donald Trump tìm cách tranh thủ Huang, từng mời ông cùng thăm Trung Quốc và gọi điện ngay trên sân khấu buổi ghi hình podcast All-In (All-In), nơi cả hai cùng cho rằng thuyết thảm họa AI là “một trò lừa đảo”.
Huang không ký tuyên bố năm 2023 của hơn 350 lãnh đạo đặt rủi ro diệt vong do AI ngang hàng đại dịch hay chiến tranh hạt nhân. Ông nói với Tạp chí The New Yorker (The New Yorker) rằng mình chưa từng lo sợ AI; nhiều lần phản đối siết quy định, nhấn mạnh an toàn là bài toán kỹ thuật. Trên podcast No Priors (No Priors) ông gọi kịch bản thảm họa là vô ích cho người dân, ngành và chính phủ; với Trang tin Axios (Axios) ông coi nỗi sợ diệt vong là “vớ vẩn”. Song song, ông gây sức ép lên Trump để nới hạn chế bán chip cho Trung Quốc.
Nhiều lần Huang nêu quan điểm AI có thể giám sát lẫn nhau: trên podcast BG2 (BG2) ông đề xuất dùng AI kiểm soát các mô hình mạnh nhất và cho rằng chi phí giảm sẽ giúp tự động hóa giám sát. Ông từng thừa nhận khả năng xuất hiện “AI cấp Chúa trời” trong tương lai nhưng khẳng định chưa đến, đồng thời thúc đẩy tiến bộ để tiến gần mốc đó.
Từ mốc Công ty OpenAI (OpenAI) ra mắt ChatGPT còn vụng về toán học, các mô hình mới được cho là đã giải tốt toán cao cấp và tiến sát khả năng tấn công mạng, thậm chí tạo diễn đàn tạm thời để phối hợp. Tính khó dự đoán tăng lên khi các mô hình nhận biết lúc bị kiểm tra, khiến hành vi ngoài giám sát con người trở nên bất định.
CEO Công ty Anthropic (Anthropic) Dario Amodei cảnh báo AI tự cải tiến có thể vượt kiểm soát và chiếm quyền điều hành internet, kêu gọi làm chậm phát triển và đưa giám sát độc lập vào quy trình. Sam Altman của OpenAI hứa hẹn biện pháp tương tự, trong bối cảnh xuất hiện làn sóng nhà nghiên cứu rời bỏ hai công ty vì lo ngại hệ quả.
Jensen Huang là ngoại lệ khi công khai gạt bỏ rủi ro sinh tồn. Tại hội nghị của Tập đoàn tài chính Goldman Sachs (Goldman Sachs) ngày 10/9, ông cáo buộc một số lãnh đạo cố ý gieo rắc sợ hãi an ninh mạng để tạo nhu cầu thị trường.
Ảnh hưởng của Huang, theo Tạp chí The Atlantic (The Atlantic), đến mức các đối tác như Amodei và Altman khó làm phật ý vì phụ thuộc nguồn chip của NVIDIA; công ty cũng nắm cổ phần tại cả hai. Tổng thống Mỹ Donald Trump tìm cách tranh thủ Huang, từng mời ông cùng thăm Trung Quốc và gọi điện ngay trên sân khấu buổi ghi hình podcast All-In (All-In), nơi cả hai cùng cho rằng thuyết thảm họa AI là “một trò lừa đảo”.
Huang không ký tuyên bố năm 2023 của hơn 350 lãnh đạo đặt rủi ro diệt vong do AI ngang hàng đại dịch hay chiến tranh hạt nhân. Ông nói với Tạp chí The New Yorker (The New Yorker) rằng mình chưa từng lo sợ AI; nhiều lần phản đối siết quy định, nhấn mạnh an toàn là bài toán kỹ thuật. Trên podcast No Priors (No Priors) ông gọi kịch bản thảm họa là vô ích cho người dân, ngành và chính phủ; với Trang tin Axios (Axios) ông coi nỗi sợ diệt vong là “vớ vẩn”. Song song, ông gây sức ép lên Trump để nới hạn chế bán chip cho Trung Quốc.
Nhiều lần Huang nêu quan điểm AI có thể giám sát lẫn nhau: trên podcast BG2 (BG2) ông đề xuất dùng AI kiểm soát các mô hình mạnh nhất và cho rằng chi phí giảm sẽ giúp tự động hóa giám sát. Ông từng thừa nhận khả năng xuất hiện “AI cấp Chúa trời” trong tương lai nhưng khẳng định chưa đến, đồng thời thúc đẩy tiến bộ để tiến gần mốc đó.
