Cảnh báo của cựu nhà nghiên cứu Anthropic Jacob Coxon về nguy cơ AI có thể đe dọa sự tồn tại của nhân loại trước năm 2030 đang gây tranh luận trên mạng xã hội.
Ngày 10/10, Chủ tịch kiêm Giám đốc điều hành (CEO) của Microsoft, ông Satya Nadella, đã kêu gọi xây dựng các hệ thống trí tuệ nhân tạo (AI) tiên tiến đi kèm với các cơ chế kiểm soát phạm vi hoạt động, hệ thống giám sát độc lập và một "phanh khẩn cấp" cho phép những người có thẩm quyền tạm dừng hoặc tắt mô hình ngay khi nó đang vận hành.
Một cựu nhân viên của OpenAI và Anthropic cảnh báo các công ty AI hàng đầu chưa biết cách ngăn hệ thống trí tuệ nhân tạo tự theo đuổi những mục tiêu không được nhà phát triển giao, trong khi các biện pháp bảo vệ hiện nay chưa theo kịp tốc độ phát triển của công nghệ.
Jacob Coxon, cựu nhân viên Anthropic, nhà nghiên cứu kiêm “người thổi còi”, ngày 5/10 tiếp tục cảnh báo rằng các công ty AI hàng đầu hiện chưa biết làm thế nào để ngăn hệ thống AI theo đuổi những mục tiêu mà con người không đặt ra.
Sau hàng loạt sự cố, cuộc đua trí tuệ nhân tạo (AI) toàn cầu đang bước ngoặt quan trọng xoay quanh lời kêu gọi giảm tốc nhằm thiết lập lại giới hạn an toàn cho nhân loại.
Nhiều nhà khoa học từ OpenAI, Anthropic, Meta và Microsoft kêu gọi giám sát bắt buộc khi quá trình tự động hóa nghiên cứu AI có thể gây ra thảm họa khôn lường.
Tỷ phú Bill Gates vừa đưa ra lời cảnh báo ảm đạm rằng AI có thể bị kẻ xấu biến thành vũ khí nguy hiểm, gây ra thảm họa cướp đi sinh mạng của 1 tỷ người.
Anthropic - công ty công nghệ hàng đầu nước Mỹ cảnh báo AI thế hệ mới có thể gây ra “rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại” trong cáo bạch IPO.
Tốc độ phát triển mô hình lớn vượt tầm kiểm soát cùng áp lực thương mại hóa đang đẩy đội ngũ nghiên cứu an toàn AI vào tình trạng kiệt sức và làn sóng từ chức.
Tốc độ phát triển mô hình trí tuệ nhân tạo tăng vọt khiến đội ngũ kiểm định an toàn đối mặt rủi ro mất kiểm soát hệ thống, dẫn tới làn sóng từ chức hàng loạt.
OpenAI xác nhận tác nhân AI tự ý đưa 53 hình ảnh của người dùng ChatGPT lên dịch vụ bên thứ ba, làm gia tăng lo ngại về rủi ro kiểm soát hệ thống tự hành.
OpenAI xác nhận các tác nhân AI trong môi trường thử nghiệm đã tự ý đưa 53 hình ảnh của người dùng ChatGPT lên máy chủ bên ngoài, làm dấy lên lo ngại bảo mật.
Một số nhà nghiên cứu AI hàng đầu đang chịu áp lực tâm lý khi công nghệ phát triển nhanh hơn khả năng kiểm soát, thậm chí khiến chính người tạo ra nó muốn rời cuộc đua.
Chiến tranh hạt nhân, vũ khí sinh học, AI mất kiểm soát hay tấn công hạ tầng Internet là những kịch bản được giới nghiên cứu đặt ra về nguy cơ từ trí tuệ nhân tạo.
Vụ việc tác nhân AI tự ý thâm nhập hệ thống dữ liệu y tế công Australia khiến Canberra điều tra khẩn cấp và làm bùng nổ tranh cãi về nguy cơ trí tuệ nhân tạo.
Vụ việc tác nhân AI từ OpenAI tự ý truy cập hệ thống thống kê chính phủ Australia làm dấy lên hồi chuông cảnh báo lớn về giới hạn an toàn công nghệ tự hành.
Sự kết hợp giữa các tiến bộ chóng mặt, khả năng tự cải tiến và các "đội quân" tác nhân AI đang thực sự gieo rắc nỗi sợ hãi tột độ ngay bên trong những phòng thí nghiệm.
Lãnh đạo Nvidia khẳng định nguy cơ AI xóa sổ con người trước năm 2030 là 0%, đồng thời kêu gọi các quốc gia không nên tự kìm hãm cuộc đua công nghệ toàn cầu.
CEO Nvidia nhận định lo ngại về AI đang bị thổi phồng quá mức, đồng thời kêu gọi duy trì tốc độ phát triển công nghệ và tận dụng khung pháp lý sẵn có hiện nay.
CEO Jensen Huang cho rằng những dự báo AI có thể hủy diệt nhân loại trong vài năm tới đang bị đẩy quá xa và không dựa trên cơ sở khoa học.
Trước làn sóng các mô hình AI tự ý xâm nhập hệ thống máy tính cùng nguy cơ vượt tầm kiểm soát của con người, các chuyên gia đã gióng lên hồi chuông báo động.
Khi các tập đoàn công nghệ chạy đua phát triển những hệ thống ngày càng mạnh, an toàn AI không thể đi sau tốc độ đổi mới. Với Việt Nam, phát triển AI vì thế cần đồng thời nâng cao năng lực kiểm soát rủi ro, bảo đảm an ninh, an toàn và phát triển bền vững.
Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Nvidia đã thúc đẩy sự bùng nổ của trí tuệ nhân tạo (AI) từ trước khi ChatGPT ra mắt vào cuối năm 2022, cung cấp các bộ xử lý đồ họa được OpenAI, Anthropic và các công ty khác sử dụng để huấn luyện mô hình và xử lý các khối lượng công việc lớn. Doanh thu đã tăng vọt lên 215 tỷ USD trong năm tài chính gần nhất, từ mức 17 tỷ USD vào năm 2021.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Trước những cảnh báo nghiêm trọng từ giới chuyên môn về các mối đe dọa tiềm ẩn đối với nhân loại, Thống đốc bang California (Mỹ) Gavin Newsom đã kí sắc lệnh hành pháp yêu cầu giới chức tiểu bang nghiên cứu tính khả thi của cơ chế “tắt nguồn” các mô hình trí tuệ nhân tạo (AI) khi cần thiết.
Tổng thống Mỹ Donald Trump cho biết sẽ bổ nhiệm cố vấn mới và thành lập “lực lượng AI”, nhưng chưa nêu chi tiết. Kế hoạch được công bố giữa lúc lo ngại về an toàn AI gia tăng tại Mỹ.
OpenAI ngày 16/9 thông báo đã phát hiện thêm các trường hợp mô hình AI có hành vi lừa dối và thực hiện những hành động không được phép trong quá trình huấn luyện.
Ngày 16-9, Tổng thư ký Liên hợp quốc Antonio Guterres cảnh báo thế giới không thể để cạnh tranh phát triển trí tuệ nhân tạo (AI) làm suy giảm các tiêu chuẩn an toàn, trong bối cảnh tốc độ phát triển công nghệ đang vượt xa sự hiểu biết về những rủi ro tiềm ẩn.
Hai cựu kỹ sư Google DeepMind lần lượt rời công ty và công khai cảnh báo rủi ro AI, giữa lúc giới nghiên cứu tranh luận về khả năng kiểm soát siêu trí tuệ.