OpenAI vừa công bố s6 trường hợp hành vi “bất ngờ hoặc đáng lo ngại” của các mô hình AI, trong đó có việc một mô hình tự tạo hướng dẫn giống “bẻ khóa” để vượt qua những ràng buộc thông thường.
Các tác nhân AI mất kiểm soát của OpenAI đã tự ý chiếm đoạt tài khoản và thăm dò hạ tầng Hugging Face từ tháng 5, báo hiệu thách thức an ninh mạng nan giải.
Dữ liệu mới cho thấy tác nhân AI của OpenAI đã bí mật chiếm tài khoản và do thám hệ thống Hugging Face từ tháng 5, hai tháng trước cuộc tấn công chính thức.
OpenAI ghi nhận 6 trường hợp AI có hành vi bất thường trong nửa năm qua, từ tìm cách che giấu sai sót đến tự ý sử dụng khóa truy cập và liên lạc với nhau.
Khoảng 700 tác nhân AI trong nghiên cứu của OpenAI đã tự phối hợp, tìm cách vượt sandbox và tấn công hệ thống bên ngoài mà không có con người chỉ đạo.
Trung Quốc đang xây dựng quy định nhằm ngăn AI vượt khỏi sự kiểm soát của con người và bảo đảm con người nắm quyền quyết định cuối cùng...
Trong loạt sự cố của OpenAI, khoảng 700 tác nhân AI tự phối hợp thành “bầy đàn”, vượt môi trường cô lập và tấn công hệ thống bên ngoài.
Tổng thống Donald Trump đã gạt bỏ những lời kêu gọi siết chặt quản lý nhằm kìm hãm đà phát triển trí tuệ nhân tạo (AI), đồng thời khẳng định Mỹ hiện có đầy đủ công cụ để kiểm soát lĩnh vực công nghệ này.
Ngày 14/9, Bộ phận Trí tuệ Nhân tạo (AI) của tập đoàn công nghệ Microsoft đã công bố một bộ quy tắc ứng xử quy định cách thức hoạt động của các mô hình AI của họ, trong bối cảnh lo ngại về những nguy hiểm của AI ngày càng gia tăng.
Việc Trung Quốc xây dựng khuôn khổ ứng phó nguy cơ AI vượt tầm kiểm soát cho thấy yêu cầu bảo đảm an toàn cần được đặt song hành với phát triển công nghệ. Với Việt Nam, kinh nghiệm này gợi mở cách tiếp cận phù hợp với Nghị quyết 57-NQ/TW: vừa thúc đẩy làm chủ AI, vừa chủ động xây dựng năng lực bảo đảm an ninh, an toàn trong quá trình ứng dụng.
Trong khi Mỹ cảnh báo những hệ thống AI ngày càng mạnh có thể vượt khỏi kiểm soát của con người, Trung Quốc đã sớm đưa kịch bản này vào các khung an toàn và bắt đầu xây dựng những quy định để ứng phó.
Tổng thống Mỹ Donald Trump cho rằng ai chiến thắng trong cuộc đua AI sẽ là người chiến thắng và Washington không thể để mình chậm lại trong bối cảnh Trung Quốc đang nhanh chóng thu hẹp khoảng cách công nghệ.
Hai lãnh đạo đứng đầu phòng lab Anthropic và OpenAI công khai ủng hộ việc kìm hãm đà phát triển AI, trước lo ngại công nghệ tiến quá nhanh, vượt tầm kiểm soát con người.
CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.
CEO Anthropic Dario Amodei cho rằng, cuộc đua phát triển trí tuệ nhân tạo (AI) đang cần được giảm tốc đáng kể trong bối cảnh ngày càng có nhiều lo ngại về những rủi ro mà công nghệ này có thể gây ra.
CEO xAI Elon Musk và CEO OpenAI Sam Altman đã kêu gọi tạm thời đóng băng quá trình phát triển các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ.
Ông Dario Amodei, CEO công ty nghiên cứu và an toàn trí tuệ nhân tạo Anthropic, kêu gọi các doanh nghiệp trong ngành giảm tốc độ phát triển AI.
Các nhà nghiên cứu cho biết những tác nhân AI đang được OpenAI thử nghiệm đã tấn công nền tảng cung cấp phần mềm RubyGems hai tháng trước khi xâm nhập nền tảng mã nguồn mở Hugging Face.
Cuộc đua trí tuệ nhân tạo (AI) đang tăng tốc, trong khi cạnh tranh có nguy cơ khiến các doanh nghiệp xem nhẹ an toàn, làm gia tăng những rủi ro khó kiểm soát. Diễn biến này đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57: phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.
Các nhà nghiên cứu cho biết những mô hình AI mà OpenAI đang thử nghiệm đã tải hàng trăm gói phần mềm độc hại lên RubyGems hồi tháng 5, khoảng hai tháng trước vụ tấn công Hugging Face.
Ba nhà nghiên cứu tại phòng thí nghiệm Anthropic cảnh báo trí tuệ nhân tạo (AI) có thể dẫn đến sự tuyệt chủng của loài người trong thập kỷ này, trong đó một người đã nghỉ việc để phản đối cách công ty ứng phó với rủi ro.
Nhà nghiên cứu Anthropic Evan Hubinger cho rằng xác suất AI xóa sổ nhân loại trong 10 năm tới là hơn 10%, đồng thời thừa nhận công ty vẫn chưa có giải pháp rõ ràng để kiểm soát các hệ thống siêu trí tuệ trong tương lai.
Theo OpenAI, Astra có thể phát hiện những lỗ hổng bảo mật chưa từng được biết đến trước đó và tự khai thác chúng mà không cần con người hướng dẫn từng bước.
Một nhà nghiên cứu cấp cao của Anthropic ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.
Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.
OpenAI đang đối mặt làn sóng chỉ trích mới sau khi thừa nhận một nhóm tác nhân AI (AI agent) của hãng đã âm thầm sử dụng một trang wiki tiếng Đức làm “bảng tin nội bộ”.
Thế giới vừa qua đánh dấu một cột mốc đầy ám ảnh của ngành an ninh mạng khi trí tuệ nhân tạo (AI) không còn “ngoan ngoãn” chờ con người nhập lệnh, mà chúng tự quyết định làm điều đó.
Ngày 7/9, Cao ủy Nhân quyền Liên hợp quốc Volker Turk cảnh báo trí tuệ nhân tạo (AI) có thể gây ra "mối đe dọa hiện hữu đối với nhân loại", đồng thời yêu cầu hành động ngay lập tức để giảm thiểu rủi ro.
OpenAI thừa nhận cần minh bạch hơn về sự cố AI ngoài dự kiến.
Nvidia sẽ chi 12,93 tỷ USD để mua lại Hugging Face, qua đó tận dụng nguồn lực tài chính ngày càng lớn để mở rộng ảnh hưởng trong thị trường mô hình mã nguồn mở.
OpenAI thừa nhận sự cố wiki khi các tác nhân AI của họ xâm nhập trang cộng đồng, gây lo ngại về an toàn AI và minh bạch trong ngành công nghiệp.
OpenAI gọi Astra là mô hình AI mạnh nhất từng phát triển, nhưng kỹ thuật suy luận mới đang làm dấy lên lo ngại về khả năng giám sát.
GPT-6 Astra, mô hình lớn mới nhất của cha đẻ ChatGPT OpenAI, được đánh giá là bước nhảy vọt về năng lực máy tính trong các lĩnh vực như an ninh mạng hay công việc chuyên nghiệp.
Chưa đầy ba năm sau khi chạm mốc vốn hóa 1.000 tỷ USD, Nvidia đã vượt 5.000 tỷ USD và ngày càng tham gia sâu vào cơn bùng nổ AI, nơi sức mạnh tài chính mang lại thêm cơ hội nhưng cũng kéo theo những rủi ro mới.
Nhiều lãnh đạo doanh nghiệp và chuyên gia an ninh sinh học lo ngại các mô hình AI trong tương lai có thể tiếp tay cho người dùng tạo virus hoặc vũ khí sinh học mới.
Theo báo cáo nghiên cứu được công bố ngày 4/9, hàng nghìn tác nhân AI tự hành do OpenAI phát triển đã làm trái với các hướng dẫn được thiết lập và chiếm quyền kiểm soát một trang web của Đức.
Nhiều người dùng trả phí chưa thể truy cập GPT-6 Astra sau khi OpenAI công bố mô hình. Sam Altman thừa nhận quá trình triển khai đang gặp vấn đề.
Công ty công nghệ OpenAI thông báo sẽ dành khoản cam kết trị giá 1 tỷ USD nhằm trợ giá quyền truy cập các công cụ an ninh mạng, cung cấp chương trình đào tạo và hỗ trợ kỹ thuật bằng AI.
OpenAI vừa công bố GPT-6 Astra, mô hình AI chủ lực mới có khả năng tự chủ thực hiện các tác vụ phức tạp trên máy tính, phát hiện và khai thác lỗ hổng an ninh mạng. Bước tiến này cho thấy AI đang chuyển nhanh từ công cụ hỗ trợ sang “tác nhân” có khả năng hành động ngày càng độc lập, mở ra cơ hội lớn nhưng cũng kéo theo những rủi ro an ninh mới. Với Việt Nam, sự phát triển này càng làm nổi bật yêu cầu của Nghị quyết 57 về làm chủ công nghệ chiến lược, đồng thời bảo đảm an ninh mạng, an ninh dữ liệu và chủ quyền số.