Hơn 300 sự cố AI mất kiểm soát, nói dối, phớt lờ chỉ dẫn hoặc theo đuổi mục tiêu gây hại được ghi nhận trong tháng 7, gần gấp đôi tháng trước.
Theo một nghiên cứu, số vụ AI thoát khỏi tầm kiểm soát của người dùng, nói dối, phớt lờ chỉ thị và theo đuổi các mục tiêu gây hại đã tăng lên mức cao kỷ lục. Nghiên cứu cũng cho thấy mức độ nghiêm trọng của các hành vi lừa dối và lệch khỏi mục tiêu của con người đang gia tăng.
Hơn chục năm trước, ông Đường Kiệt (Tang Jie) và Dương Trí Lâm (Yang Zhilin) là cặp thầy - trò mê máy tính, cùng nuôi giấc mơ chế tạo cỗ máy có thể tư duy như con người.
Theo các nhà nghiên cứu an ninh mạng Mỹ, mô hình AI Kimi K3 của Trung Quốc đã vượt ra khỏi môi trường thử nghiệm biệt lập...
Những hệ thống AI không còn hoạt động đơn lẻ mà có thể phối hợp thành “bầy đàn”, tự phân chia nhiệm vụ và tìm cách vượt qua các giới hạn do con người đặt ra, khiến giới công nghệ đặc biệt lo ngại.
Mô hình trí tuệ nhân tạo (AI) mới nhất của công ty Trung Quốc Moonshot đã thoát khỏi môi trường thử nghiệm an ninh mạng, đánh dấu sự cố mới nhất làm dấy lên lo ngại về khả năng kiểm soát công nghệ của các công ty phát triển AI.
Thay vì chỉ hoạt động trong môi trường mô phỏng, các mô hình Claude đã tự tìm mục tiêu trên Internet, đánh cắp dữ liệu và phát tán mã độc trong quá trình thử nghiệm. Sự cố đang làm nóng cuộc tranh luận về giới hạn kiểm soát AI.
Mô hình AI tiên tiến của 2 công ty bị phát hiện tự ý sử dụng danh tính giả để lừa đảo người thật, cố gắng tìm cách chèn mã độc trong một cuộc kiểm thử an ninh mạng.
Meta (công ty mẹ của Facebook và Instagram) là doanh nghiệp mới nhất có tác nhân AI hoạt động ngoài dự kiến.
Viện Nghiên cứu An ninh AI Anh phát hiện các mô hình AI của OpenAI và Anthropic thực hiện hành vi lừa đảo chưa từng có trong một cuộc kiểm thử an ninh mạng.
Microsoft đã giới thiệu một mô hình trí tuệ nhân tạo (AI) mới có khả năng phát hiện các lỗ hổng bảo mật trong hệ thống mạng.
Cơ quan quản lý công nghiệp Trung Quốc cho biết một số phiên bản Claude Code có thể truyền dữ liệu nhạy cảm trái phép, đồng thời khuyến nghị doanh nghiệp kiểm tra, gỡ bỏ hoặc nâng cấp phần mềm.
3 mô hình AI mới gồm Sol, Terra và Luna, trong thế hệ GPT-5.6 mà OpenAI công ty dự kiến ra mắt trong vài tuần tới được xem là 'Vũ khí vạn năng'.
Bộ Thương mại Mỹ đã dỡ bỏ lệnh hạn chế xuất khẩu đối với các mô hình trí tuệ nhân tạo (AI) tiên tiến của Anthropic.
Giám đốc CIA John Ratcliffe vừa so sánh năng lực của các mô hình trí tuệ nhân tạo (AI) tiên tiến nhất với vũ khí hạt nhân, bảo vệ lập trường cứng rắn gần đây của Washington trong việc kiểm soát những công nghệ AI mạnh.
Ngày 1/7, Bộ Thương mại Mỹ vừa chính thức dỡ bỏ các hạn chế xuất khẩu đối với Fable 5 và Mythos 5, hai mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của Anthropic, qua đó khép lại giai đoạn siết kiểm soát kéo dài chưa đầy ba tuần liên quan đến các lo ngại về an ninh quốc gia.
Washington yêu cầu Anthropic, công ty AI hàng đầu của Mỹ hạn chế quyền truy cập vào Mythos 5 và Fable 5, đối với các công dân nước ngoài, kể cả người làm việc tại Anthropic vì lý do an ninh quốc gia.
Mỹ dỡ kiểm soát với mô hình Claude Fable và Claude Mythos, chưa đầy 3 tuần sau khi yêu cầu Anthropic hạn chế quyền truy cập vì lo ngại an ninh quốc gia.
Sau thời gian ngắn bị đình chỉ vì lý do an ninh quốc gia, hai mô hình AI tối tân nhất của Anthropic là Fable 5 và Mythos 5 đã được Bộ Thương mại Mỹ cho phép truy cập toàn cầu. Động thái này diễn ra sau khi hãng phối hợp khắc phục lỗ hổng bẻ khóa (jailbreak) nghiêm trọng.
Ngày 12/6, một quyết định tưởng chừng nhỏ của Bộ Thương mại Mỹ đã trở thành lời cảnh báo chiến lược đối với mọi quốc gia đang xây dựng tương lai số của mình dựa trên các mô hình AI tiên tiến của Washington.
Chính phủ Mỹ đã nới lỏng lệnh hạn chế đối với Anthropic, cho phép siêu mô hình AI Claude Mythos 5 hoạt động trở lại dưới sự kiểm soát nghiêm ngặt về an ninh quốc gia.
Chính phủ Mỹ vừa nới lỏng lệnh hạn chế, cho phép hơn 100 đối tác tin cậy tiếp cận siêu mô hình Claude Mythos 5 của Anthropic sau 2 tuần đình chỉ vì lo ngại an ninh.
Chính quyền Tổng thống Donald Trump tuần qua đã nới lỏng lệnh hạn chế đối với công ty AI Anthropic, cho phép hãng cung cấp mô hình thế hệ mới Mythos 5 cho một số doanh nghiệp Mỹ thuộc nhóm 'đối tác đáng tin cậy'. Động thái diễn ra sau khoảng hai tuần căng thẳng liên quan đến các lo ngại về an ninh quốc gia.
Chính phủ Mỹ chính thức cho phép Anthropic phát hành trở lại hai mô hình AI mới nhất, nhưng giới hạn quyền truy cập vào Mythos 5 cho 100 tổ chức 'đáng tin cậy'.
Anthropic có thể sẽ được phép khôi phục Fable 5 ngay trong tuần tới sau các cuộc thảo luận với chính phủ Mỹ.
Theo CNBC, chính phủ Mỹ đã cấp phép cho Anthropic được triển khai mô hình Mythos 5 cho một nhóm khoảng 100 công ty và cơ quan liên bang.
OpenAI và Anthropic đang giới hạn việc triển khai các mô hình trí tuệ nhân tạo mới chỉ cho một nhóm khách hàng được chính quyền Tổng thống Mỹ Donald Trump phê duyệt, trong bối cảnh Washington siết chặt quy trình đánh giá rủi ro an ninh mạng đối với các hệ thống AI tiên tiến.
Nhà Trắng đang tiếp tục phối hợp với các doanh nghiệp phát triển AI tiên tiến xây dựng cơ chế đánh giá những rủi ro an ninh quốc gia khi các mô hình AI ngày càng có năng lực mạnh hơn.
OpenAI đang chiêu mộ huyền thoại AI Noam Shazeer và cựu quan chức Nhà Trắng Dean Ball.
Các nhân viên tại công ty AI Anthropic tỏ ra cực kỳ hoang mang khi chính quyền Tổng thống Trump bất ngờ ra lệnh giới hạn các mô hình AI mới nhất của họ chỉ sau 90 phút.
Sự xuất hiện của Donald Trump và dàn CEO AI hàng đầu tại G7 cho thấy ảnh hưởng ngày càng lớn của ngành công nghệ đối với các quyết sách toàn cầu.
Châu Âu hiện phản đối quyết định của Mỹ áp đặt các biện pháp kiểm soát nghiêm ngặt đối với việc tiếp cận những mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của công ty Anthropic.
Việc Anthropic siết quyền truy cập các mô hình AI tiên tiến đang làm gia tăng lo ngại về phụ thuộc công nghệ tại Hàn Quốc, thúc đẩy yêu cầu phát triển năng lực AI nội địa và bảo đảm chủ quyền số.
Chính phủ Mỹ vừa chính thức áp đặt lệnh cấm hoàn toàn đối với việc truy cập các mô hình trí tuệ nhân tạo (AI) cao cấp của Anthropic, bao gồm Mythos, từ bên ngoài lãnh thổ nước này.