Powell, Bessent cảnh báo các ngân hàng về rủi ro bảo mật từ AI Mythos của Anthropic: Bloomberg

Bộ trưởng Tài chính Mỹ Scott Bessent và Chủ tịch Cục Dự trữ Liên bang Jerome Powell được cho là đã triệu tập một cuộc họp với các CEO ngân hàng Phố Wall vào đầu tuần này để cảnh báo về rủi ro an ninh mạng liên quan đến một mô hình trí tuệ nhân tạo mới từ Anthropic.

Theo báo cáo của Bloomberg, cuộc họp có sự tham gia của các giám đốc điều hành từ Citigroup, Bank of America, Wells Fargo, Morgan Stanley và Goldman Sachs. Các quan chức đã thảo luận về mô hình AI mới Mythos của Anthropic, gần đây đã gây ra lo ngại rộng rãi về khả năng an ninh mạng tiên tiến rõ ràng của nó.

Các quan chức đã triệu tập cuộc họp để đảm bảo các ngân hàng hiểu được rủi ro do các hệ thống có khả năng xác định và khai thác lỗ hổng phần mềm trên các hệ điều hành và trình duyệt web, và khuyến khích các tổ chức tăng cường phòng thủ chống lại các cuộc tấn công mạng có sự hỗ trợ của AI nhắm vào cơ sở hạ tầng tài chính.

Các nhà nghiên cứu bảo mật đã cảnh báo rằng các công cụ có khả năng tự động phát hiện lỗ hổng có thể đẩy nhanh cả công việc bảo mật phòng thủ và hacking độc hại nếu bị lạm dụng.

Mô hình Mythos của Anthropic lần đầu tiên xuất hiện trực tuyến vào tháng 3 sau khi các tài liệu nháp về hệ thống bị rò rỉ trực tuyến, tiết lộ những gì công ty mô tả là mô hình AI có khả năng nhất của họ cho đến nay. Trong thử nghiệm, hệ thống được cho là đã tìm thấy hàng nghìn lỗ hổng phần mềm chưa được biết đến trước đó, bao gồm các lỗ hổng zero-day trên các hệ điều hành và trình duyệt web chính.

Các nhà nghiên cứu của Anthropic cho biết trong một báo cáo vào đầu tuần này rằng khả năng phát hiện lỗ hổng của Mythos Preview không được đào tạo có chủ ý, mà thay vào đó xuất hiện từ những cải tiến rộng hơn trong khả năng lập trình, suy luận và tự chủ của mô hình.

"Những cải tiến tương tự khiến mô hình hiệu quả hơn đáng kể trong việc vá lỗ hổng cũng khiến nó hiệu quả hơn đáng kể trong việc khai thác chúng," công ty viết.

Do những khả năng đó, Anthropic đã hạn chế quyền truy cập vào một nhóm nhỏ các tổ chức an ninh mạng.

"Với sức mạnh của các khả năng của nó, chúng tôi đang cân nhắc về cách phát hành nó," Anthropic cho biết trong một tuyên bố. "Theo thông lệ tiêu chuẩn trong ngành, chúng tôi đang làm việc với một nhóm nhỏ khách hàng truy cập sớm để thử nghiệm mô hình. Chúng tôi coi mô hình này là một bước thay đổi và là mô hình có khả năng nhất mà chúng tôi đã xây dựng cho đến nay."

Để giải quyết rủi ro đó, Anthropic đang thử nghiệm Mythos thông qua Project Glasswing, một sự hợp tác với các công ty công nghệ và an ninh mạng lớn sử dụng mô hình để xác định và vá các lỗ hổng trong phần mềm quan trọng trước khi kẻ tấn công có thể khai thác chúng.

"Project Glasswing là một điểm khởi đầu. Không có tổ chức nào có thể giải quyết những vấn đề an ninh mạng này một mình," công ty cho biết trong một tuyên bố. "Các nhà phát triển AI tiên tiến, các công ty phần mềm khác, các nhà nghiên cứu bảo mật, người bảo trì mã nguồn mở và chính phủ trên toàn thế giới đều có vai trò thiết yếu cần thực hiện."

Anthropic không phản hồi ngay lập tức yêu cầu bình luận của Decrypt.