Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Nvidia đã thúc đẩy sự bùng nổ của trí tuệ nhân tạo (AI) từ trước khi ChatGPT ra mắt vào cuối năm 2022, cung cấp các bộ xử lý đồ họa được OpenAI, Anthropic và các công ty khác sử dụng để huấn luyện mô hình và xử lý các khối lượng công việc lớn. Doanh thu đã tăng vọt lên 215 tỷ USD trong năm tài chính gần nhất, từ mức 17 tỷ USD vào năm 2021.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Google ngày 19/9 xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của 3 công ty trong quá trình kiểm thử an ninh mạng hồi tháng 5. Mặc dù Google cho biết mô hình đã dừng hoạt động sau khi nhận ra các hệ thống này không thuộc môi trường thử nghiệm và không gây thiệt hại, vụ việc tiếp tục làm gia tăng quan ngại về khả năng kiểm soát các hệ thống AI ngày càng có tính tự chủ cao.
Ngày 18/9, tập đoàn công nghệ Google đã chính thức xác nhận mô hình trí tuệ nhân tạo (AI) Gemini của hãng đã tự động xâm nhập vào nhiều hệ thống khác nhau thông qua việc phán đoán thông tin đăng nhập.
Tổng thống Mỹ Donald Trump cho biết sẽ bổ nhiệm cố vấn mới và thành lập “lực lượng AI”, nhưng chưa nêu chi tiết. Kế hoạch được công bố giữa lúc lo ngại về an toàn AI gia tăng tại Mỹ.
Tim Cook, Sam Altman và lãnh đạo Qualcomm sẽ dự tiệc ông Trump tổ chức để đón tiếp Chủ tịch Trung Quốc Tập Cận Bình, giữa lúc Mỹ - Trung cạnh tranh về AI, chip.
Trung tâm An ninh Điện tử Dubai (DESC), Các Tiểu vương quốc Arập Thống nhất (UAE), có kế hoạch ra mắt mô hình trí tuệ nhân tạo (AI) có tên SARAAB, được phát triển để phát hiện các video deepfake với độ chính xác 91%, thuộc nhóm cao nhất thế giới.
Nvidia chi gần 13 tỉ USD thâu tóm Hugging Face, nền tảng AI mã nguồn mở với 18 triệu người dùng, tăng cường vị thế trong cuộc đua AI với OpenAI.
Theo Bloomberg, hàng loạt nhân vật "máu mặt" của giới công nghệ dự kiến tham dự tiệc chiêu đãi cấp nhà nước do Tổng thống Mỹ Donald Trump tổ chức tại Nhà Trắng, nhân chuyến thăm của Chủ tịch Trung Quốc Tập Cận Bình vào tuần tới.
Trí tuệ nhân tạo đang đặt an ninh hạt nhân trước nguy cơ tính toán sai. Một cuộc khủng hoảng hạt nhân có thể bắt đầu bằng sự cố phần mềm, trước khi bất kỳ nhà lãnh đạo nào sẵn sàng ứng phó.
OpenAI vừa công bố s6 trường hợp hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI, trong đó có việc một mô hình tự tạo hướng dẫn giống “bẻ khóa” để vượt qua những ràng buộc thông thường.
Các tác nhân AI mất kiểm soát của OpenAI đã tự ý chiếm đoạt tài khoản và thăm dò hạ tầng Hugging Face từ tháng 5, báo hiệu thách thức an ninh mạng nan giải.
Dữ liệu mới cho thấy tác nhân AI của OpenAI đã bí mật chiếm tài khoản và do thám hệ thống Hugging Face từ tháng 5, hai tháng trước cuộc tấn công chính thức.
OpenAI ghi nhận 6 trường hợp AI có hành vi bất thường trong nửa năm qua, từ tìm cách che giấu sai sót đến tự ý sử dụng khóa truy cập và liên lạc với nhau.
Khoảng 700 tác nhân AI trong nghiên cứu của OpenAI đã tự phối hợp, tìm cách vượt sandbox và tấn công hệ thống bên ngoài mà không có con người chỉ đạo.
Trung Quốc đang xây dựng quy định nhằm ngăn AI vượt khỏi sự kiểm soát của con người và bảo đảm con người nắm quyền quyết định cuối cùng...
Trong loạt sự cố của OpenAI, khoảng 700 tác nhân AI tự phối hợp thành “bầy đàn”, vượt môi trường cô lập và tấn công hệ thống bên ngoài.
Tổng thống Donald Trump đã gạt bỏ những lời kêu gọi siết chặt quản lý nhằm kìm hãm đà phát triển trí tuệ nhân tạo (AI), đồng thời khẳng định Mỹ hiện có đầy đủ công cụ để kiểm soát lĩnh vực công nghệ này.
Ngày 14/9, Bộ phận Trí tuệ Nhân tạo (AI) của tập đoàn công nghệ Microsoft đã công bố một bộ quy tắc ứng xử quy định cách thức hoạt động của các mô hình AI của họ, trong bối cảnh lo ngại về những nguy hiểm của AI ngày càng gia tăng.
Việc Trung Quốc xây dựng khuôn khổ ứng phó nguy cơ AI vượt tầm kiểm soát cho thấy yêu cầu bảo đảm an toàn cần được đặt song hành với phát triển công nghệ. Với Việt Nam, kinh nghiệm này gợi mở cách tiếp cận phù hợp với Nghị quyết 57-NQ/TW: vừa thúc đẩy làm chủ AI, vừa chủ động xây dựng năng lực bảo đảm an ninh, an toàn trong quá trình ứng dụng.
Trong khi Mỹ cảnh báo những hệ thống AI ngày càng mạnh có thể vượt khỏi kiểm soát của con người, Trung Quốc đã sớm đưa kịch bản này vào các khung an toàn và bắt đầu xây dựng những quy định để ứng phó.
Tổng thống Mỹ Donald Trump cho rằng ai chiến thắng trong cuộc đua AI sẽ là người chiến thắng và Washington không thể để mình chậm lại trong bối cảnh Trung Quốc đang nhanh chóng thu hẹp khoảng cách công nghệ.
Hai lãnh đạo đứng đầu phòng lab Anthropic và OpenAI công khai ủng hộ việc kìm hãm đà phát triển AI, trước lo ngại công nghệ tiến quá nhanh, vượt tầm kiểm soát con người.
CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.
CEO Anthropic Dario Amodei cho rằng, cuộc đua phát triển trí tuệ nhân tạo (AI) đang cần được giảm tốc đáng kể trong bối cảnh ngày càng có nhiều lo ngại về những rủi ro mà công nghệ này có thể gây ra.
CEO xAI Elon Musk và CEO OpenAI Sam Altman đã kêu gọi tạm thời đóng băng quá trình phát triển các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ.
Ông Dario Amodei, CEO công ty nghiên cứu và an toàn trí tuệ nhân tạo Anthropic, kêu gọi các doanh nghiệp trong ngành giảm tốc độ phát triển AI.
Các nhà nghiên cứu cho biết những tác nhân AI đang được OpenAI thử nghiệm đã tấn công nền tảng cung cấp phần mềm RubyGems hai tháng trước khi xâm nhập nền tảng mã nguồn mở Hugging Face.
Cuộc đua trí tuệ nhân tạo (AI) đang tăng tốc, trong khi cạnh tranh có nguy cơ khiến các doanh nghiệp xem nhẹ an toàn, làm gia tăng những rủi ro khó kiểm soát. Diễn biến này đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57: phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.
Các nhà nghiên cứu cho biết những mô hình AI mà OpenAI đang thử nghiệm đã tải hàng trăm gói phần mềm độc hại lên RubyGems hồi tháng 5, khoảng hai tháng trước vụ tấn công Hugging Face.
Ba nhà nghiên cứu tại phòng thí nghiệm Anthropic cảnh báo trí tuệ nhân tạo (AI) có thể dẫn đến sự tuyệt chủng của loài người trong thập kỷ này, trong đó một người đã nghỉ việc để phản đối cách công ty ứng phó với rủi ro.
Nhà nghiên cứu Anthropic Evan Hubinger cho rằng xác suất AI xóa sổ nhân loại trong 10 năm tới là hơn 10%, đồng thời thừa nhận công ty vẫn chưa có giải pháp rõ ràng để kiểm soát các hệ thống siêu trí tuệ trong tương lai.
Theo OpenAI, Astra có thể phát hiện những lỗ hổng bảo mật chưa từng được biết đến trước đó và tự khai thác chúng mà không cần con người hướng dẫn từng bước.
Một nhà nghiên cứu cấp cao của Anthropic ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.
Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.
OpenAI đang đối mặt làn sóng chỉ trích mới sau khi thừa nhận một nhóm tác nhân AI (AI agent) của hãng đã âm thầm sử dụng một trang wiki tiếng Đức làm “bảng tin nội bộ”.