Hai lãnh đạo đứng đầu phòng lab Anthropic và OpenAI công khai ủng hộ việc kìm hãm đà phát triển AI, trước lo ngại công nghệ tiến quá nhanh, vượt tầm kiểm soát con người.
CEO Anthropic chỉ ra việc các mô hình AI ngày càng có khả năng tự cải thiện, đồng thời nhấn mạnh những lo ngại lâu nay về việc AI có thể vượt quá khả năng kiểm soát của con người.
CEO Anthropic Dario Amodei cho rằng, cuộc đua phát triển trí tuệ nhân tạo (AI) đang cần được giảm tốc đáng kể trong bối cảnh ngày càng có nhiều lo ngại về những rủi ro mà công nghệ này có thể gây ra.
CEO xAI Elon Musk và CEO OpenAI Sam Altman đã kêu gọi tạm thời đóng băng quá trình phát triển các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ.
Ông Dario Amodei, CEO công ty nghiên cứu và an toàn trí tuệ nhân tạo Anthropic, kêu gọi các doanh nghiệp trong ngành giảm tốc độ phát triển AI.
Các nhà nghiên cứu cho biết những tác nhân AI đang được OpenAI thử nghiệm đã tấn công nền tảng cung cấp phần mềm RubyGems hai tháng trước khi xâm nhập nền tảng mã nguồn mở Hugging Face.
Cuộc đua trí tuệ nhân tạo (AI) đang tăng tốc, trong khi cạnh tranh có nguy cơ khiến các doanh nghiệp xem nhẹ an toàn, làm gia tăng những rủi ro khó kiểm soát. Diễn biến này đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57: phát triển và làm chủ AI phải song hành với xây dựng năng lực quản trị, kiểm soát và bảo đảm an toàn.
Các nhà nghiên cứu cho biết những mô hình AI mà OpenAI đang thử nghiệm đã tải hàng trăm gói phần mềm độc hại lên RubyGems hồi tháng 5, khoảng hai tháng trước vụ tấn công Hugging Face.
Ba nhà nghiên cứu tại phòng thí nghiệm Anthropic cảnh báo trí tuệ nhân tạo (AI) có thể dẫn đến sự tuyệt chủng của loài người trong thập kỷ này, trong đó một người đã nghỉ việc để phản đối cách công ty ứng phó với rủi ro.
Nhà nghiên cứu Anthropic Evan Hubinger cho rằng xác suất AI xóa sổ nhân loại trong 10 năm tới là hơn 10%, đồng thời thừa nhận công ty vẫn chưa có giải pháp rõ ràng để kiểm soát các hệ thống siêu trí tuệ trong tương lai.
Theo OpenAI, Astra có thể phát hiện những lỗ hổng bảo mật chưa từng được biết đến trước đó và tự khai thác chúng mà không cần con người hướng dẫn từng bước.
Một nhà nghiên cứu cấp cao của Anthropic ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.
Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.
OpenAI đang đối mặt làn sóng chỉ trích mới sau khi thừa nhận một nhóm tác nhân AI (AI agent) của hãng đã âm thầm sử dụng một trang wiki tiếng Đức làm “bảng tin nội bộ”.
Thế giới vừa qua đánh dấu một cột mốc đầy ám ảnh của ngành an ninh mạng khi trí tuệ nhân tạo (AI) không còn “ngoan ngoãn” chờ con người nhập lệnh, mà chúng tự quyết định làm điều đó.
Ngày 7/9, Cao ủy Nhân quyền Liên hợp quốc Volker Turk cảnh báo trí tuệ nhân tạo (AI) có thể gây ra "mối đe dọa hiện hữu đối với nhân loại", đồng thời yêu cầu hành động ngay lập tức để giảm thiểu rủi ro.
OpenAI thừa nhận cần minh bạch hơn về sự cố AI ngoài dự kiến.
Nvidia sẽ chi 12,93 tỷ USD để mua lại Hugging Face, qua đó tận dụng nguồn lực tài chính ngày càng lớn để mở rộng ảnh hưởng trong thị trường mô hình mã nguồn mở.
OpenAI thừa nhận sự cố wiki khi các tác nhân AI của họ xâm nhập trang cộng đồng, gây lo ngại về an toàn AI và minh bạch trong ngành công nghiệp.
OpenAI gọi Astra là mô hình AI mạnh nhất từng phát triển, nhưng kỹ thuật suy luận mới đang làm dấy lên lo ngại về khả năng giám sát.
GPT-6 Astra, mô hình lớn mới nhất của cha đẻ ChatGPT OpenAI, được đánh giá là bước nhảy vọt về năng lực máy tính trong các lĩnh vực như an ninh mạng hay công việc chuyên nghiệp.
Chưa đầy ba năm sau khi chạm mốc vốn hóa 1.000 tỷ USD, Nvidia đã vượt 5.000 tỷ USD và ngày càng tham gia sâu vào cơn bùng nổ AI, nơi sức mạnh tài chính mang lại thêm cơ hội nhưng cũng kéo theo những rủi ro mới.
Nhiều lãnh đạo doanh nghiệp và chuyên gia an ninh sinh học lo ngại các mô hình AI trong tương lai có thể tiếp tay cho người dùng tạo virus hoặc vũ khí sinh học mới.
Theo báo cáo nghiên cứu được công bố ngày 4/9, hàng nghìn tác nhân AI tự hành do OpenAI phát triển đã làm trái với các hướng dẫn được thiết lập và chiếm quyền kiểm soát một trang web của Đức.
Nhiều người dùng trả phí chưa thể truy cập GPT-6 Astra sau khi OpenAI công bố mô hình. Sam Altman thừa nhận quá trình triển khai đang gặp vấn đề.
Công ty công nghệ OpenAI thông báo sẽ dành khoản cam kết trị giá 1 tỷ USD nhằm trợ giá quyền truy cập các công cụ an ninh mạng, cung cấp chương trình đào tạo và hỗ trợ kỹ thuật bằng AI.
OpenAI vừa công bố GPT-6 Astra, mô hình AI chủ lực mới có khả năng tự chủ thực hiện các tác vụ phức tạp trên máy tính, phát hiện và khai thác lỗ hổng an ninh mạng. Bước tiến này cho thấy AI đang chuyển nhanh từ công cụ hỗ trợ sang “tác nhân” có khả năng hành động ngày càng độc lập, mở ra cơ hội lớn nhưng cũng kéo theo những rủi ro an ninh mới. Với Việt Nam, sự phát triển này càng làm nổi bật yêu cầu của Nghị quyết 57 về làm chủ công nghệ chiến lược, đồng thời bảo đảm an ninh mạng, an ninh dữ liệu và chủ quyền số.
Astra được OpenAI giới thiệu là mô hình AI mạnh nhất của hãng, nhưng kỹ thuật suy luận mới có thể khiến quá trình hoạt động của AI khó giám sát hơn.
Cập nhật kết quả phiên giao dịch ngày 3/9 theo giờ địa phương, kết thúc vào rạng sáng 4/9 theo giờ Việt Nam, Phố Wall đồng loạt tăng hơn 1%; chứng khoán châu Âu phục hồi sau ba phiên giảm liên tiếp, trong khi thị trường châu Á phân hóa.
Nvidia đạt thỏa thuận mua lại Hugging Face với giá khoảng 12,93 tỷ USD, qua đó mở rộng sự hiện diện từ lĩnh vực chip AI sang một trong những nền tảng phát triển và chia sẻ mô hình trí tuệ nhân tạo lớn nhất thế giới.
Giải mã Hugging Face và lý do Nvidia chi 12,93 tỷ USD thâu tóm "thánh địa" AI mã nguồn mở nhằm phòng thủ trước Big Tech và kiểm soát 18 triệu lập trình viên.
Phố Wall tăng điểm trong phiên khi nhà đầu tư bớt lo ngại về khả năng thắt chặt chính sách tiền tệ, sau tuyên bố của Thống đốc Fed Christopher Waller về việc ủng hộ phương án giữ nguyên lãi suất nếu các dữ liệu cho thấy áp lực lạm phát đang suy giảm…
Khép lại phiên giao dịch ngày 3/9, thị trường chứng khoán Mỹ đồng loạt bứt phá mạnh mẽ trong bối cảnh giới đầu tư kỳ vọng Cục Dự trữ Liên bang Mỹ (Fed) sẽ tạm ngừng lộ trình thắt chặt tiền tệ. Cùng lúc đó, trên thị trường ngoại hối, đồng yen Nhật Bản ghi nhận mức tăng ấn tượng trước những đồn đoán về một đợt can thiệp tỷ giá mới.
Khép lại phiên giao dịch ngày 3/9, thị trường chứng khoán Mỹ đồng loạt bứt phá mạnh mẽ trong bối cảnh giới đầu tư kỳ vọng Cục Dự trữ Liên bang Mỹ (Fed) sẽ tạm ngừng lộ trình thắt chặt tiền tệ.
Chứng khoán Mỹ tăng mạnh trong phiên 3/9 khi phát biểu của quan chức Cục Dự trữ Liên bang Mỹ (Fed) Christopher Waller giúp hạ nhiệt kỳ vọng tăng lãi suất, trong khi nhóm cổ phiếu công nghệ và AI tiếp tục dẫn dắt đà hồi phục.
Phố Wall khép lại phiên 3-9 với đà tăng mạnh sau khi phát biểu của Thống đốc FED Christopher Waller giúp xoa dịu lo ngại về khả năng tiếp tục tăng lãi suất.
Nếu được phê duyệt, thoả thuận trị giá gần 13 tỷ USD với Hugging Face sẽ giúp Nvidia nắm giữ vị thế quan trọng trong cả lĩnh vực phần cứng lẫn nền tảng phân phối phần mềm AI.
“Đại gia” ngành chip Nvidia ngày 3/9 chính thức tuyên bố sẽ mua lại nền tảng trí tuệ nhân tạo (AI) Hugging Face với mức giá 12,9 tỷ USD. Thỏa thuận bom tấn này đánh dấu bước đi chiến lược của Nvidia nhằm đa dạng hóa tầm ảnh hưởng và củng cố vị thế thống trị trong lĩnh vực AI.
Hơn 10.000 robot hình vịt Microduck đã được bán ra chỉ sau ít ngày. Sản phẩm cho thấy robot cá nhân đang thành thị trường mới của ngành AI và phần cứng.