Một mô hình AI đã gửi tin báo án giả tới cảnh sát trong quá trình thử nghiệm, làm nóng tranh luận về việc AI agent cần cơ chế “phanh khẩn cấp” để con người có thể dừng ngay khi hệ thống đi sai hướng.
Những người dùng liên tục có hành vi xúc phạm, đối xử tàn nhẫn với AI có thể sẽ bị AI phớt lờ, không trả lời nữa. Đây là quy định mới liên quan đến một mô hình AI phổ biến. Vậy có phải từ giờ, người dùng không được phàn nàn, nổi nóng hoặc mắng AI?
Gần đây, người ta phát hiện ra rằng, một mô hình AI do công ty Anthropic phát triển đã gửi thông tin sai lệch đến một trang web của cảnh sát Hoa Kỳ chuyên tiếp nhận tin báo về các vụ án giết người chưa có lời giải.
OpenAI dự báo doanh thu năm nay đạt 50 tỷ USD, thấp hơn 20 tỷ USD so với mức từng đề cập với các nhà đầu tư. Thông tin này làm dấy lên những nghi vấn về triển vọng tăng trưởng của thị trường trí tuệ nhân tạo (AI), đồng thời gây sức ép lên nhóm cổ phiếu công nghệ Mỹ.
Nghiên cứu mới cho thấy AI có thể truy tìm danh tính đứng sau tài khoản ẩn danh với chi phí chỉ vài USD, làm gia tăng rủi ro mất quyền riêng tư.
Cuốn "The AGI Chronicles" của nhà báo Kevin Roose hé lộ những cuộc cạnh tranh nội bộ rối ren, trong đó giới học giả và doanh nhân tìm cách định hình tương lai của AI.
Theo The Guardian, OpenAI dự báo doanh thu năm nay đạt 50 tỷ USD, thấp hơn 20 tỷ USD so với mức từng công bố, làm dấy lên lo ngại về đà tăng trưởng nhu cầu AI.
Ngày 10/10, Chủ tịch kiêm Giám đốc điều hành (CEO) của Microsoft, ông Satya Nadella, đã kêu gọi xây dựng các hệ thống trí tuệ nhân tạo (AI) tiên tiến đi kèm với các cơ chế kiểm soát phạm vi hoạt động, hệ thống giám sát độc lập và một "phanh khẩn cấp" cho phép những người có thẩm quyền tạm dừng hoặc tắt mô hình ngay khi nó đang vận hành.
Bộ Ngoại giao Mỹ xác nhận mô hình AI của Anthropic đã gửi đơn xin thị thực thông qua biểu mẫu trực tuyến.
Sự cố mô hình AI của Anthropic tự động gửi tin báo giả về một vụ án mạng tới trang web tiếp nhận thông tin của cảnh sát Mỹ cho thấy rủi ro trí tuệ nhân tạo không còn giới hạn ở việc tạo ra nội dung sai lệch, mà đã mở rộng sang khả năng tự thực hiện hành động trên các hệ thống bên ngoài. Từ vụ việc này, Việt Nam cần chú trọng kiểm soát quyền tự chủ, giám sát thử nghiệm và xác định trách nhiệm khi triển khai AI theo tinh thần Nghị quyết 57 và Thông báo 24.
Khát khao giành giật từng năng lực tính toán để thúc đẩy sự bùng nổ AI đang khiến những công ty công nghệ không đội trời chung tại Thung lũng Silicon phải bắt tay nhau.
Cảnh sát thành phố Philadelphia (bang Pennsylvania, Mỹ) đã chỉ trích mạnh mẽ công ty công nghệ Anthropic sau khi mô hình trí tuệ nhân tạo (AI) của công ty này tự động tạo và gửi một tin báo giả mạo về một vụ án mạng chưa có lời giải. Sự việc này làm dấy lên lo ngại về những hành động ngoài dự kiến của các tác nhân AI khi có thể tự thực hiện nhiều công việc trên Internet mà không cần con người giám sát trực tiếp.
Mô hình AI Claude của Anthropic đã gửi thông tin bịa đặt về một vụ án mạng chưa có lời giải tới website của cảnh sát Philadelphia trong quá trình thử nghiệm tự động.
Một đơn vị bán buôn sách của Nhật Bản thừa nhận đã giao dịch với Anthropic, công ty trí tuệ nhân tạo (AI) đang vướng lùm xùm về việc thu mua và tiêu hủy lượng lớn sách giấy.
Ngày 8/10, công ty trí tuệ nhân tạo (AI) Anthropic cập nhật chính sách sử dụng, cấm các hành vi lạm dụng hoặc đối xử tàn nhẫn không cần thiết và kéo dài với các mô hình AI của hãng, trong bối cảnh tranh luận về khả năng AI có ý thức ngày càng thu hút sự chú ý.
Giám đốc điều hành Hiệp hội Công nghiệp ghi âm Australia (ARIA) và Công ty Bản quyền bản ghi âm Australia (PPCA), bà Annabelle Herd, cảnh báo việc nới lỏng bảo hộ bản quyền nhằm thu hút các tập đoàn trí tuệ nhân tạo (AI) có thể làm suy yếu thị trường cấp phép sử dụng âm nhạc và các tác phẩm sáng tạo.
Các công ty khởi nghiệp trí tuệ nhân tạo (AI) như Anthropic và OpenAI đang chuẩn bị phát hành cổ phiếu lần đầu ra công chúng (IPO). Mặc dù đối mặt với những thông tin bất lợi gần đây liên quan đến vấn đề an toàn AI hay các điều chỉnh ước tính doanh thu, sức hút của hai doanh nghiệp này đối với giới đầu tư vẫn được đánh giá ở mức cao.
Các mô hình AI liên tục được nâng cấp, giá API giảm mạnh và cạnh tranh ngày càng quyết liệt đang khiến những cải tiến nhỏ khó tạo được sự chú ý trên thị trường…
Ngày 8/10, truyền thông quốc tế đưa tin doanh thu quy đổi theo năm của OpenAI thấp hơn khoảng 20 tỷ USD so với mức mà các nhà đầu tư kỳ vọng, làm dấy lên những nghi ngại về sự vững chắc của hoạt động kinh doanh trong lĩnh vực trí tuệ nhân tạo (AI).
Nhà Trắng vừa công bố gói đầu tư lớn trị giá 6 tỷ USD nhằm thúc đẩy nghiên cứu khoa học, phát triển công nghệ tiên tiến và mở rộng ứng dụng trí tuệ nhân tạo (AI). Đây là bước đi mới nhất trong khuôn khổ sáng kiến " Sứ mệnh Genesis" do Tổng thống Donald Trump phát động.
Trong bối cảnh các doanh nghiệp trí tuệ nhân tạo (AI) cạnh tranh mở rộng hệ sinh thái ứng dụng hỗ trợ công việc và nâng cao năng suất, ngày 8/10, công ty Anthropic đã ra mắt các công cụ cho phép người dùng tạo bảng dữ liệu trực quan và hoạt ảnh thông qua nền tảng Claude.
Làn sóng bùng nổ AI với mức lương cao đang đẩy giá thuê nhà tại San Francisco tăng mạnh, khiến ngay cả người có thu nhập cao cũng chật vật tìm chỗ ở, trong khi số thông báo trục xuất tăng 44% trong một năm.
Làn sóng đầu tư mạnh mẽ vào cơ sở hạ tầng trí tuệ nhân tạo (AI) đang phải đối mặt với một thách thức tài chính ngày càng nghiêm trọng khi lợi suất trái phiếu của chính phủ Mỹ tăng lên mức cao nhất trong nhiều năm. Sự gia tăng của chi phí vay vốn đang tạo ra một lằn ranh trên thị trường, phân hóa sâu sắc giữa các tập đoàn công nghệ lớn có nền tảng tài chính vững chắc và các doanh nghiệp cung cấp dịch vụ đám mây thế hệ mới vốn phụ thuộc nhiều vào đòn bẩy tài chính.
Trong báo cáo công bố mới đây, Công ty an ninh mạng Mỹ CrowdStrike cho biết nghi phạm đứng sau chiến dịch tấn công mạng nhằm vào các tổ chức tài chính Hàn Quốc từ cuối tháng 9 đến đầu tháng 10 có thể là một người 26 tuổi ở tỉnh Quảng Đông, Trung Quốc.
OpenAI chuẩn bị áp dụng công nghệ nhận diện mới với văn bản AI trong bối cảnh EU siết quy định minh bạch nội dung.
Một cựu nhân viên của OpenAI và Anthropic cảnh báo các công ty AI hàng đầu chưa biết cách ngăn hệ thống trí tuệ nhân tạo tự theo đuổi những mục tiêu không được nhà phát triển giao, trong khi các biện pháp bảo vệ hiện nay chưa theo kịp tốc độ phát triển của công nghệ.
Báo cáo mới nhất từ a16z cho thấy gần 95% người dùng AI chưa sẵn sàng trả phí định kỳ, buộc các công ty công nghệ gặp khó khăn với bài toán doanh thu.
Một báo cáo công bố ngày 7-10 làm nóng trở lại tranh luận về mức độ an toàn của chatbot với thanh thiếu niên, khi những lớp bảo vệ có thể hoạt động ở các câu hỏi riêng lẻ nhưng vẫn bộc lộ giới hạn trong những cuộc trò chuyện kéo dài.
Tài sản ròng của Elon Musk tăng thêm 30,6 tỷ USD trong phiên 5/10, đưa tỷ phú công nghệ Mỹ trở lại mốc 1.000 tỷ USD nhờ đà tăng của cổ phiếu SpaceX và Tesla. Trong khi đó, giới phân tích đang kỳ vọng chuyến bay thử nghiệm tiếp theo của Starship có thể trở thành chất xúc tác mới cho SpaceX.
Hàn Quốc đang cảnh báo nguy cơ các công cụ trí tuệ nhân tạo (AI) nguồn mở bị lợi dụng để tự động hóa các cuộc tấn công mạng, sau khi phát hiện dấu vết của công cụ AI ARTEX trong các vụ tấn công nhằm vào một số tổ chức tài chính nước này.
Công ty trí tuệ nhân tạo (AI) Anthropic công bố nâng cấp và mở rộng Chương trình Xác thực An ninh mạng (CVP), cho phép các chuyên gia bảo mật đã qua thẩm định tiếp cận những mô hình AI mạnh nhất của hãng với ít rào cản kiểm soát hơn nhằm phục vụ công tác phòng thủ an ninh mạng.
Công ty công nghệ Pháp Mistral ngày 7/10 công bố kế hoạch phát hành Le Chonk, tên chính thức là Mistral Large 4, mô hình AI có trọng số mở (open-weight) lớn nhất của hãng, hướng tới những người dùng muốn đảm bảo dữ liệu riêng tư.