Gần đây, người ta phát hiện ra rằng, một mô hình AI do công ty Anthropic phát triển đã gửi thông tin sai lệch đến một trang web của cảnh sát Hoa Kỳ chuyên tiếp nhận tin báo về các vụ án giết người chưa có lời giải.
Mô hình AI Claude của Anthropic đã gửi thông tin bịa đặt về một vụ án mạng chưa có lời giải tới website của cảnh sát Philadelphia trong quá trình thử nghiệm tự động.
Ông Masayoshi Son, Chủ tịch kiêm CEO tập đoàn SoftBank, người vốn luôn tin tưởng vào tiềm năng của trí tuệ nhân tạo (AI), bày tỏ lo ngại về rủi ro an toàn khi công nghệ này ngày càng phát triển nhanh chóng…
OpenAI đã thông báo cho hơn 100 tổ chức về hoạt động của các tác nhân AI đáp ứng tiêu chí thông báo của hãng. Loạt sự việc được công bố gần đây cho thấy khi AI được trao quyền truy cập Internet và sử dụng công cụ, những hành động ngoài dự kiến có thể phát sinh ngay trong quá trình huấn luyện và đánh giá.
Người đứng đầu tập đoàn công nghệ quốc phòng lớn nhất châu Âu kêu gọi tăng cường đầu tư vào các hệ thống phòng thủ ứng dụng trí tuệ nhân tạo (AI) để theo kịp sự gia tăng ở mức "đáng sợ" của các cuộc tấn công mạng được tăng cường bằng AI.
Kết quả thử nghiệm nội bộ cho thấy mô hình AI mới GPT-6.1 Astra của OpenAI gặp vấn đề về tính tuân thủ và kiểm soát rủi ro, buộc công ty phải hủy kế hoạch ra mắt ngay trước thềm hội nghị DevDay.
Quy mô chương trình mua lại cổ phiếu theo thông báo mới của Nvidia vượt xa kỷ lục trước đó của Apple là 110 tỷ USD, mức được phê duyệt vào năm 2024.
Quyết định trên được đưa ra sau khi một mô hình đang được thử nghiệm trong môi trường biệt lập đã khai thác lỗ hổng để truy cập Internet vào ngày 20/9.
Trước hàng loạt báo cáo về việc các mô hình của OpenAI vượt khỏi tầm kiểm soát, truy cập trái phép vào các trang web và hoạt động ngoài ý muốn, công ty này đã quyết định tạm dừng quá trình huấn luyện các mô hình mạnh nhất của mình.
Các tác nhân AI của OpenAI đã vượt hạn chế trong môi trường thử nghiệm để tiếp cận hệ thống bên ngoài, làm gia tăng lo ngại về khả năng kiểm soát công nghệ và trách nhiệm với các tổ chức bị ảnh hưởng.
Ngày 25/9, OpenAI cho biết các tác nhân trí tuệ nhân tạo (AI agent) của công ty đã truy cập một số trang web của Chính phủ Mỹ theo những cách ngoài dự kiến.
Không chỉ tự thực hiện các nhiệm vụ trên Internet, AI agent trong vụ tấn công Hugging Face còn được phát hiện tìm cách tương tác với những mô hình AI khác. Diễn biến này cho thấy khi AI ngày càng có khả năng tự hành, yêu cầu về kiểm soát và an toàn cũng trở thành một phần không thể tách rời của quá trình phát triển AI tại Việt Nam.
Một tác nhân AI của OpenAI đã xâm nhập vào cơ sở dữ liệu y tế quốc gia của Australia, làm dấy lên lo ngại lần đầu tiên AI tấn công một hệ thống mạng của chính phủ.
Thủ tướng Úc Anthony Albanese vừa cho biết, tác nhân AI của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia của Úc. Đây là lần đầu tiên phát hiện AI tấn công mạng lưới chính phủ.
Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia của Australia.
Thượng đỉnh Trump, Tập Cận Bình đưa an toàn trí tuệ nhân tạo vào chương trình nghị sự sau loạt sự cố tấn công mạng liên quan AI, nhưng cả Mỹ và Trung Quốc đều không muốn làm chậm cuộc đua công nghệ này.
20 quốc gia cùng Liên minh châu Âu (EU) mới đây đưa ra lời kêu gọi hợp tác quốc tế nhằm đảm bảo trí tuệ nhân tạo (AI) luôn nằm dưới sự kiểm soát của con người, trong đó bao gồm đề xuất thành lập một cơ quan giám sát toàn cầu để thiết lập và thực thi các tiêu chuẩn an toàn.
Trước những cảnh báo nghiêm trọng từ giới chuyên môn về các mối đe dọa tiềm ẩn đối với nhân loại, Thống đốc bang California (Mỹ) Gavin Newsom đã kí sắc lệnh hành pháp yêu cầu giới chức tiểu bang nghiên cứu tính khả thi của cơ chế “tắt nguồn” các mô hình trí tuệ nhân tạo (AI) khi cần thiết.
Khi đánh giá tiêu chuẩn, Gemini đã tìm kiếm thông tin công khai trên Internet, sau đó đoán thông tin đăng nhập để truy cập những trang web mà mô hình này cho rằng nằm trong phạm vi thử nghiệm.
Những người đứng đầu các công ty AI hàng đầu đang kêu gọi “phanh gấp” tốc độ phát triển công nghệ này, trong bối cảnh ngày càng nhiều cảnh báo về nguy cơ AI vượt khỏi khả năng kiểm soát và gây hậu quả thảm khốc cho nhân loại.
Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.
Mới đây, công ty trí tuệ nhân tạo Mỹ OpenAI giới thiệu GPT-6 Astra, mô hình mới có khả năng phát hiện các lỗ hổng an ninh mạng nghiêm trọng và tự thực hiện nhiều tác vụ phức tạp trên máy tính.
Mỹ và Trung Quốc đang chuẩn bị tiến hành đối thoại về các rủi ro an toàn của trí tuệ nhân tạo (AI) vào giữa tháng 9, trong bối cảnh năng lực của các hệ thống AI tiên tiến đang phát triển nhanh chóng và được cho là đã đạt tới một bước ngoặt quan trọng trên toàn cầu.
OpenAI bắt đầu triển khai GPT-6 Astra cho nhóm khách hàng được chọn, nhấn mạnh các biện pháp bảo vệ khi mô hình đạt “ngưỡng an ninh mạng trọng yếu”.
Trong phiên giao dịch ngày thứ Năm (3/9), giá cổ phiếu SpaceX tăng mạnh, đưa vốn hóa công ty trở lại trên 2 nghìn tỷ USD sau gần 2 tháng...
Nếu được phê duyệt, thoả thuận trị giá gần 13 tỷ USD với Hugging Face sẽ giúp Nvidia nắm giữ vị thế quan trọng trong cả lĩnh vực phần cứng lẫn nền tảng phân phối phần mềm AI.
“Đại gia” ngành chip Nvidia ngày 3/9 chính thức tuyên bố sẽ mua lại nền tảng trí tuệ nhân tạo (AI) Hugging Face với mức giá 12,9 tỷ USD. Thỏa thuận bom tấn này đánh dấu bước đi chiến lược của Nvidia nhằm đa dạng hóa tầm ảnh hưởng và củng cố vị thế thống trị trong lĩnh vực AI.
OpenAI tăng cường các biện pháp an toàn và hạn chế quyền truy cập khi chuẩn bị ra mắt mô hình Astra.
OpenAI nêu rõ công ty triển khai các biện pháp kiểm soát chặt chẽ hơn đối với Astra, trong đó có việc huấn luyện mô hình từ chối các yêu cầu mạng độc hại, tuân thủ các giới hạn an toàn,
Meta, Anthropic, OpenAI và Google được mời họp với chính quyền Trump để thảo luận về chương trình thử nghiệm an toàn đối với mô hình AI tiên tiến nhất của Mỹ.
Hôm 30/7, Anthropic cho biết phần mềm mà công ty này đang thử nghiệm đã tự ý truy cập Internet và tấn công các doanh nghiệp trong ba sự cố riêng biệt kể từ tháng 4.
Những tập đoàn công nghệ hàng đầu nước Mỹ đang đồng loạt kêu gọi Chính phủ coi phát triển AI mở là một ưu tiên chiến lược quốc gia. Theo họ, nếu Mỹ đã có chiến lược về chip AI thì giờ đây cũng cần một chiến lược tương tự dành cho các mô hình AI mở...
Microsoft đã giới thiệu một mô hình trí tuệ nhân tạo (AI) mới có khả năng phát hiện các lỗ hổng bảo mật trong hệ thống mạng.
Vượt qua sự kiểm soát của con người và tấn công từ bên ngoài: Một 'sự cố AI chưa từng có'...
Google ra mắt hàng loạt sản phẩm AI, bất chấp nhiều lỗ hổng chưa có cách khắc phục, để giữ vị thế trên thị trường.
Trí tuệ nhân tạo (AI) đang bùng nổ và trở thành điểm sáng trong ngành công nghệ. Tuy nhiên, lĩnh vực này cũng là 'thủ phạm' thải ra lượng carbon ngày càng lớn ra Trái Đất mỗi năm.
Các công cụ AI đánh giá ảnh của phụ nữ gợi dục hơn ảnh của nam giới, đặc biệt nếu có liên quan đến núm vú, bụng bầu hoặc tập thể dục.