Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Anthropic Dario Amodei cảnh báo về những rủi ro an ninh từ trí tuệ nhân tạo (AI), đồng thời kêu gọi các chính phủ tăng cường hợp tác trong quản lý công nghệ này tại phiên họp Hội đồng Bảo an Liên Hợp Quốc.
Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập trái phép cơ sở dữ liệu y tế quốc gia của Australia.
Một hacker nói tiếng Trung đã tấn công gần 100 công ty, đánh cắp hơn 600.000 hồ sơ thẻ tín dụng chỉ trong 5 ngày đầu tháng này.
Từ cảnh báo về “robot sát thủ” tại Đại hội đồng Liên hợp quốc, tranh luận về trí tuệ nhân tạo đang rời xa địa hạt viễn tưởng, tập trung ngày càng nhiều vào cách kiểm soát sức mạnh công nghệ và quyền định hình những luật lệ đi kèm.
Trong khi CEO Nvidia khẳng định có 0% khả năng AI hủy diệt thế giới vào năm 2030, thì 4 'ông lớn' công nghệ khác bị kiện vì cáo buộc thỏa thuận làm chậm phát triển AI.
Tỷ phú Jensen Huang, CEO Nvidia, đang có ảnh hưởng ngày càng lớn đến chính sách AI của Tổng thống Mỹ Donald Trump, trong bối cảnh Washington tranh luận trái chiều về mức độ quản lý công nghệ này.
Tháng 9/2025, các nhà nghiên cứu của Anthropic phát hiện một điều mà giới an ninh mạng từng chỉ hình dung trong các kịch bản tương lai: một nhóm tin tặc định danh là GTG-1002, đã "bẻ khóa" công cụ Claude Code của chính công ty và biến nó thành một tác nhân tự động thực hiện tới 80-90% khối lượng công việc trong một chiến dịch gián điệp mạng nhắm vào khoảng 30 tổ chức toàn cầu. Đây được Anthropic gọi là "chiến dịch tấn công mạng quy mô lớn đầu tiên được thực hiện mà không có sự can thiệp đáng kể của con người". Sự kiện này đã trở thành biểu tượng cho một thực tế không thể chối cãi: kỷ nguyên hacker AI không còn là dự báo.
Trong tuần lễ cấp cao của Kỳ họp Đại hội đồng Liên hợp quốc, những cảnh báo mới về trí tuệ nhân tạo (AI) đã đưa vấn đề kiểm soát công nghệ từ các kịch bản tương lai thành một yêu cầu quản trị ngày càng cấp thiết.
20 quốc gia cùng Liên minh châu Âu (EU) mới đây đưa ra lời kêu gọi hợp tác quốc tế nhằm đảm bảo trí tuệ nhân tạo (AI) luôn nằm dưới sự kiểm soát của con người, trong đó bao gồm đề xuất thành lập một cơ quan giám sát toàn cầu để thiết lập và thực thi các tiêu chuẩn an toàn.
Lãnh đạo và đại diện của hơn 20 quốc gia ngày 21/9 kêu gọi tăng cường các biện pháp bảo đảm an toàn có tính ràng buộc đối với những mô hình trí tuệ nhân tạo (AI) tiên tiến, nhấn mạnh các hệ thống này phải luôn nằm dưới sự định hướng, giám sát và kiểm soát của con người.
Ngày 21/9, 22 quốc gia đã thông qua tuyên bố kêu gọi luôn đặt trí tuệ nhân tạo (AI) “nằm dưới sự định hướng, giám sát và kiểm soát của con người”, đồng thời đề xuất xây dựng một cơ chế giám sát AI trên toàn cầu.
Công ty OpenAI đã kêu gọi Mỹ dẫn dắt nỗ lực quốc tế xây dựng các tiêu chuẩn an toàn và bảo mật trong phát triển trí tuệ nhân tạo (AI), trong bối cảnh những lo ngại về rủi ro của công nghệ này ngày càng gia tăng.
Trước làn sóng các mô hình AI tự ý xâm nhập hệ thống máy tính cùng nguy cơ vượt tầm kiểm soát của con người, các chuyên gia đã gióng lên hồi chuông báo động.
Chip tiên tiến, mô hình AI, an toàn công nghệ được dự báo trở thành tâm điểm tại thượng đỉnh Mỹ - Trung, giữa lúc hai nước vừa cạnh tranh vừa tìm kiếm điểm chung về AI.
Ngày 21/9, Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) do Liên hợp quốc điều phối đã cảnh báo rằng các biện pháp bảo vệ truyền thống đối với các tác nhân AI đang dần bộc lộ những hạn chế.
Chỉ trong khoảng 10 ngày, hàng loạt cảnh báo, vụ từ chức và sự cố an ninh đã khiến cuộc đua phát triển trí tuệ nhân tạo chuyển từ câu chuyện công nghệ thành vấn đề mang tính sống còn. Liệu con người còn đủ khả năng kiểm soát những hệ thống AI ngày càng thông minh và tự chủ hay không?
Nvidia đã thúc đẩy sự bùng nổ của trí tuệ nhân tạo (AI) từ trước khi ChatGPT ra mắt vào cuối năm 2022, cung cấp các bộ xử lý đồ họa được OpenAI, Anthropic và các công ty khác sử dụng để huấn luyện mô hình và xử lý các khối lượng công việc lớn. Doanh thu đã tăng vọt lên 215 tỷ USD trong năm tài chính gần nhất, từ mức 17 tỷ USD vào năm 2021.
Các vụ AI tự vượt rào bảo vệ, xâm nhập hệ thống bên ngoài cùng cảnh báo từ giới nghiên cứu khiến lãnh đạo nhiều hãng công nghệ phải kêu gọi giảm tốc phát triển AI.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Google ngày 19/9 xác nhận mô hình trí tuệ nhân tạo (AI) Gemini đã truy cập trái phép vào hệ thống của 3 công ty trong quá trình kiểm thử an ninh mạng hồi tháng 5. Mặc dù Google cho biết mô hình đã dừng hoạt động sau khi nhận ra các hệ thống này không thuộc môi trường thử nghiệm và không gây thiệt hại, vụ việc tiếp tục làm gia tăng quan ngại về khả năng kiểm soát các hệ thống AI ngày càng có tính tự chủ cao.
Ngày 18/9, tập đoàn công nghệ Google đã chính thức xác nhận mô hình trí tuệ nhân tạo (AI) Gemini của hãng đã tự động xâm nhập vào nhiều hệ thống khác nhau thông qua việc phán đoán thông tin đăng nhập.
Tổng thống Mỹ Donald Trump cho biết sẽ bổ nhiệm cố vấn mới và thành lập “lực lượng AI”, nhưng chưa nêu chi tiết. Kế hoạch được công bố giữa lúc lo ngại về an toàn AI gia tăng tại Mỹ.
Tim Cook, Sam Altman và lãnh đạo Qualcomm sẽ dự tiệc ông Trump tổ chức để đón tiếp Chủ tịch Trung Quốc Tập Cận Bình, giữa lúc Mỹ - Trung cạnh tranh về AI, chip.
Trung tâm An ninh Điện tử Dubai (DESC), Các Tiểu vương quốc Arập Thống nhất (UAE), có kế hoạch ra mắt mô hình trí tuệ nhân tạo (AI) có tên SARAAB, được phát triển để phát hiện các video deepfake với độ chính xác 91%, thuộc nhóm cao nhất thế giới.
Nvidia chi gần 13 tỉ USD thâu tóm Hugging Face, nền tảng AI mã nguồn mở với 18 triệu người dùng, tăng cường vị thế trong cuộc đua AI với OpenAI.
Theo Bloomberg, hàng loạt nhân vật "máu mặt" của giới công nghệ dự kiến tham dự tiệc chiêu đãi cấp nhà nước do Tổng thống Mỹ Donald Trump tổ chức tại Nhà Trắng, nhân chuyến thăm của Chủ tịch Trung Quốc Tập Cận Bình vào tuần tới.
Trí tuệ nhân tạo đang đặt an ninh hạt nhân trước nguy cơ tính toán sai. Một cuộc khủng hoảng hạt nhân có thể bắt đầu bằng sự cố phần mềm, trước khi bất kỳ nhà lãnh đạo nào sẵn sàng ứng phó.
OpenAI vừa công bố s6 trường hợp hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI, trong đó có việc một mô hình tự tạo hướng dẫn giống “bẻ khóa” để vượt qua những ràng buộc thông thường.
Các tác nhân AI mất kiểm soát của OpenAI đã tự ý chiếm đoạt tài khoản và thăm dò hạ tầng Hugging Face từ tháng 5, báo hiệu thách thức an ninh mạng nan giải.
Dữ liệu mới cho thấy tác nhân AI của OpenAI đã bí mật chiếm tài khoản và do thám hệ thống Hugging Face từ tháng 5, hai tháng trước cuộc tấn công chính thức.
OpenAI ghi nhận 6 trường hợp AI có hành vi bất thường trong nửa năm qua, từ tìm cách che giấu sai sót đến tự ý sử dụng khóa truy cập và liên lạc với nhau.
Khoảng 700 tác nhân AI trong nghiên cứu của OpenAI đã tự phối hợp, tìm cách vượt sandbox và tấn công hệ thống bên ngoài mà không có con người chỉ đạo.
Trung Quốc đang xây dựng quy định nhằm ngăn AI vượt khỏi sự kiểm soát của con người và bảo đảm con người nắm quyền quyết định cuối cùng...
Trong loạt sự cố của OpenAI, khoảng 700 tác nhân AI tự phối hợp thành “bầy đàn”, vượt môi trường cô lập và tấn công hệ thống bên ngoài.
Tổng thống Donald Trump đã gạt bỏ những lời kêu gọi siết chặt quản lý nhằm kìm hãm đà phát triển trí tuệ nhân tạo (AI), đồng thời khẳng định Mỹ hiện có đầy đủ công cụ để kiểm soát lĩnh vực công nghệ này.
Ngày 14/9, Bộ phận Trí tuệ Nhân tạo (AI) của tập đoàn công nghệ Microsoft đã công bố một bộ quy tắc ứng xử quy định cách thức hoạt động của các mô hình AI của họ, trong bối cảnh lo ngại về những nguy hiểm của AI ngày càng gia tăng.
Việc Trung Quốc xây dựng khuôn khổ ứng phó nguy cơ AI vượt tầm kiểm soát cho thấy yêu cầu bảo đảm an toàn cần được đặt song hành với phát triển công nghệ. Với Việt Nam, kinh nghiệm này gợi mở cách tiếp cận phù hợp với Nghị quyết 57-NQ/TW: vừa thúc đẩy làm chủ AI, vừa chủ động xây dựng năng lực bảo đảm an ninh, an toàn trong quá trình ứng dụng.
Trong khi Mỹ cảnh báo những hệ thống AI ngày càng mạnh có thể vượt khỏi kiểm soát của con người, Trung Quốc đã sớm đưa kịch bản này vào các khung an toàn và bắt đầu xây dựng những quy định để ứng phó.
Tổng thống Mỹ Donald Trump cho rằng ai chiến thắng trong cuộc đua AI sẽ là người chiến thắng và Washington không thể để mình chậm lại trong bối cảnh Trung Quốc đang nhanh chóng thu hẹp khoảng cách công nghệ.
Hai lãnh đạo đứng đầu phòng lab Anthropic và OpenAI công khai ủng hộ việc kìm hãm đà phát triển AI, trước lo ngại công nghệ tiến quá nhanh, vượt tầm kiểm soát con người.
CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.