Trong khi Mỹ cảnh báo những hệ thống AI ngày càng mạnh có thể vượt khỏi kiểm soát của con người, Trung Quốc đã sớm đưa kịch bản này vào các khung an toàn và bắt đầu xây dựng những quy định để ứng phó.
Những người đứng đầu các công ty AI hàng đầu đang kêu gọi “phanh gấp” tốc độ phát triển công nghệ này, trong bối cảnh ngày càng nhiều cảnh báo về nguy cơ AI vượt khỏi khả năng kiểm soát và gây hậu quả thảm khốc cho nhân loại.
Tổng thống Mỹ Donald Trump lên tiếng trước viễn cảnh AI hủy diệt loài người giữa làn sóng cảnh báo rủi ro từ các nhà nghiên cứu tại OpenAI và Anthropic.
Cuộc đua trí tuệ nhân tạo (AI) đang tăng tốc, trong khi cạnh tranh có nguy cơ khiến các doanh nghiệp xem nhẹ an toàn, làm gia tăng những rủi ro khó kiểm soát. Diễn biến này đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57: phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.
Ba nhà nghiên cứu tại phòng thí nghiệm Anthropic cảnh báo trí tuệ nhân tạo (AI) có thể dẫn đến sự tuyệt chủng của loài người trong thập kỷ này, trong đó một người đã nghỉ việc để phản đối cách công ty ứng phó với rủi ro.
Nhà nghiên cứu Anthropic Evan Hubinger cho rằng xác suất AI xóa sổ nhân loại trong 10 năm tới là hơn 10%, đồng thời thừa nhận công ty vẫn chưa có giải pháp rõ ràng để kiểm soát các hệ thống siêu trí tuệ trong tương lai.
Một nhà nghiên cứu cấp cao của Anthropic ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.
Ngày 7/9, Cao ủy Nhân quyền Liên hợp quốc Volker Turk cảnh báo trí tuệ nhân tạo (AI) có thể gây ra "mối đe dọa hiện hữu đối với nhân loại", đồng thời yêu cầu hành động ngay lập tức để giảm thiểu rủi ro.
Chỉ trong 4 năm, từ những phiên bản ChatGPT đầu tiên, AI đã phát triển thành những hệ thống mạnh đến mức con người ngày càng khó kiểm soát...