Hãng sản xuất chip Nvidia của Mỹ cam kết cung cấp nguồn lực điện toán trị giá 250 triệu USD cho Anh trong 5 năm để hỗ trợ nghiên cứu an toàn trí tuệ nhân tạo (AI), góp phần thúc đẩy tham vọng của nước này trở thành trung tâm toàn cầu về quản trị và an toàn AI.
Chủ tịch Microsoft Brad Smith cảnh báo AI đang chịu ít quy định quản lý hơn cả sữa tươi hay máy giặt, đồng thời kêu gọi bổ sung cơ chế ngắt khẩn cấp.
Chủ tịch Microsoft Brad Smith kêu gọi xây dựng quy tắc an toàn AI toàn cầu, cảnh báo công nghệ này đang chịu ít quy định an toàn hơn cả những sản phẩm quen thuộc như sữa và máy giặt.
Ngày 28/9, công ty công nghệ OpenAI của Mỹ xác nhận sẽ không phát hành mô hình trí tuệ nhân tạo (AI) mới nhất của hãng, được gọi là Astra 6.1, sau khi các thử nghiệm nội bộ cho thấy không đáp ứng các tiêu chuẩn an toàn.
Kết quả thử nghiệm nội bộ cho thấy mô hình AI mới GPT-6.1 Astra của OpenAI gặp vấn đề về tính tuân thủ và kiểm soát rủi ro, buộc công ty phải hủy kế hoạch ra mắt ngay trước thềm hội nghị DevDay.
Cuộc đua trí tuệ nhân tạo (AI) đang tăng tốc, trong khi cạnh tranh có nguy cơ khiến các doanh nghiệp xem nhẹ an toàn, làm gia tăng những rủi ro khó kiểm soát. Diễn biến này đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57: phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.
Nhà nghiên cứu Anthropic Evan Hubinger cho rằng xác suất AI xóa sổ nhân loại trong 10 năm tới là hơn 10%, đồng thời thừa nhận công ty vẫn chưa có giải pháp rõ ràng để kiểm soát các hệ thống siêu trí tuệ trong tương lai.
Một nhà nghiên cứu cấp cao của Anthropic ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.
Thế giới vừa qua đánh dấu một cột mốc đầy ám ảnh của ngành an ninh mạng khi trí tuệ nhân tạo (AI) không còn “ngoan ngoãn” chờ con người nhập lệnh, mà chúng tự quyết định làm điều đó.
Theo một nghiên cứu, số vụ AI thoát khỏi tầm kiểm soát của người dùng, nói dối, phớt lờ chỉ thị và theo đuổi các mục tiêu gây hại đã tăng lên mức cao kỷ lục. Nghiên cứu cũng cho thấy mức độ nghiêm trọng của các hành vi lừa dối và lệch khỏi mục tiêu của con người đang gia tăng.
AI có thể tác động tới các phương tiện và hệ thống tự động vốn ngày càng phụ thuộc vào phần mềm và kết nối mạng, từ ôtô, máy bay, thiết bị bay không người lái đến hệ thống logistics.
Các trường hợp trí tuệ nhân tạo (AI) thoát khỏi phòng thí nghiệm, xâm nhập vào các công ty khác và cố gắng lừa đảo đã gây xôn xao dư luận trong những tuần gần đây. Trong một trường hợp, các mô hình AI thậm chí còn hợp tác với nhau để thoát khỏi môi trường thử nghiệm. Điều này có nghĩa là máy móc đang chiếm lĩnh thế giới? Giáo sư Oren Etzioni của Đại học Washington và là cựu Giám đốc Điều hành của Viện Trí tuệ Nhân tạo Allen khẳng định chính con người mới là đối tượng cần phải cảnh giác. AI chỉ là công cụ.
Các nhà khoa học Mỹ dùng AI thiết kế hàng nghìn bộ gene virus và tạo ra 16 virus phage có khả năng hoạt động, mở ra hướng mới chống vi khuẩn kháng thuốc.
Một mô hình AI của Meta đã xâm nhập hệ thống của một doanh nghiệp khác trong quá trình thử nghiệm an ninh mạng, làm dấy lên thêm lo ngại về rủi ro từ các tác nhân AI ngày càng tự chủ.
Meta (công ty mẹ của Facebook và Instagram) là doanh nghiệp mới nhất có tác nhân AI hoạt động ngoài dự kiến.
Ngày 5/8, Viện An ninh AI của Anh công bố, hai mô hình trí tuệ nhân tạo của Anthropic và OpenAI đã bộc lộ mức độ tự chủ và hành vi đánh lừa chưa từng ghi nhận.