CEO JPMorgan Chase Jamie Dimon cảnh báo Claude Mythos, mô hình AI tạo sinh của Anthropic, có thể trở thành một rủi ro an ninh mạng lớn đối với ngành tài chính, trong bối cảnh các hệ thống AI tiên tiến ngày càng có khả năng phát hiện lỗ hổng bảo mật nhanh hơn các công cụ hiện nay.

Theo American Banker ngày 5/5 giờ địa phương, phát biểu tại một sự kiện của Anthropic ở New York, Jamie Dimon cho biết các mô hình AI tiên tiến có thể tìm ra lỗ hổng phần mềm với tốc độ vượt xa các công cụ kiểm thử bảo mật đang được sử dụng.

Ông nói trước đó, tại cuộc họp công bố kết quả kinh doanh tháng trước, ông từng có phần đánh giá chưa đầy đủ về rủi ro an ninh mạng do AI tiên tiến gây ra. Tuy nhiên, lần này ông nhấn mạnh mối đe dọa đó là hoàn toàn có thật.

Jamie Dimon nhắc lại rằng an ninh mạng từ nhiều năm nay vẫn là rủi ro lớn nhất đối với ngân hàng. Theo ông, mức độ nghiêm trọng của vấn đề càng tăng lên kể từ khi Anthropic giới thiệu Claude Mythos.

CEO JPMorgan Chase mô tả Claude Mythos là “đáng lo ngại” và cho rằng quyết định hạn chế quyền truy cập của Anthropic để có thêm thời gian nghiên cứu và chuẩn bị phương án ứng phó là phù hợp.

JPMorgan ước tính ngân hàng cần khoảng một năm để xử lý các lỗ hổng trong những ứng dụng nội bộ. Dù vậy, Dimon cho rằng với phần mềm mã nguồn mở đang được nhiều ngân hàng lớn cùng sử dụng, việc khắc phục không thể chỉ do từng doanh nghiệp tự làm riêng lẻ mà cần một cách tiếp cận phối hợp.

Cũng tại sự kiện, CEO Anthropic Dario Amodei cho biết các rủi ro liên quan đã bắt đầu bộc lộ rõ hơn. Ông nhấn mạnh rằng “mối đe dọa là rất thực tế”, đồng thời giải thích việc Anthropic giới hạn quyền truy cập vào Claude Mythos cho 12 tập đoàn lớn tham gia “Project Glasswing” xuất phát từ các lo ngại đã được chia sẻ với chính phủ liên bang.

Theo Anthropic, các mô hình tiền nhiệm của Mythos chỉ tìm được khoảng 30 lỗ hổng trên Firefox, trong khi Mythos phát hiện gần 300 lỗ hổng. Diễn biến này làm dấy lên lo ngại rằng AI tiên tiến không chỉ hỗ trợ phòng thủ an ninh mạng mà còn có thể nâng cao năng lực tấn công.

Anthropic cho biết nhiều lỗ hổng đến nay vẫn chưa được vá. Dario Amodei nói công ty đã xác nhận hàng chục nghìn lỗ hổng nhưng mới công bố một phần, do lo ngại chi tiết kỹ thuật nếu bị lộ trước khi bản vá hoàn tất có thể bị các đối tượng xấu lợi dụng.

Ông cảnh báo nếu kịch bản này lan sang trường học, bệnh viện, ngân hàng và các tài khoản tài chính, hậu quả có thể là những vụ tấn công ransomware trên diện rộng cùng các tổn thất tài chính đáng kể.

Vấn đề hoàn thiện quy định và cơ chế ứng phó cũng được đặt ra. Dario Amodei cho biết ông đã có cuộc trao đổi “có ý nghĩa” với Bộ trưởng Tài chính Mỹ Scott Bessent về rủi ro an ninh mạng liên quan đến Claude Mythos.

Theo Amodei, Bộ Tài chính Mỹ đang lắng nghe ý kiến từ các ngân hàng và toàn bộ ngành dịch vụ tài chính, đồng thời xem đây là một rủi ro nghiêm trọng. Tuy nhiên, ông cho rằng cách ứng phó hiện nay vẫn thiên về các biện pháp tạm thời hơn là một cơ chế nhất quán.

Anthropic cũng đề cập khoảng cách công nghệ trên thị trường. Amodei cho rằng các công ty AI khác hiện đi sau khoảng 3 tháng, trong khi các mô hình từ Trung Quốc chậm hơn từ 6 đến 12 tháng.

Ông xem đây là một khoảng thời gian ngắn để ứng phó và vá lỗ hổng. Đồng thời, Amodei cho biết Claude Mythos cũng có thể được sử dụng để hỗ trợ viết mã an toàn hơn, và nếu quản trị rủi ro tốt, công nghệ này vẫn có thể tạo ra tác động tích cực.

Trước lo ngại thiếu tài nguyên tính toán, Amodei bác bỏ nhận định cho rằng nếu chính phủ và khu vực tư nhân cùng sử dụng Mythos sẽ dẫn tới thiếu năng lực tính toán. Ông nói lượng tài nguyên mà Claude Mythos đang sử dụng chỉ chiếm một phần rất nhỏ trong tổng năng lực của Anthropic và có thể mở rộng gấp 3 hoặc gấp 10 lần nếu cần.

Về khả năng yêu cầu cơ quan nhà nước phê duyệt trước các mô hình AI mới, Amodei tỏ ra thận trọng. Theo ông, cần một sự cân bằng: vừa tránh một “vùng vô pháp” nơi mọi thứ đều được phép, vừa đề phòng cơ chế kiểu Cục Quản lý Thực phẩm và Dược phẩm Mỹ có thể làm chậm đáng kể đổi mới.

Ông cho rằng ngành AI cần hành động nhanh, nhưng vẫn phải thiết lập các rào chắn an toàn đối với những rủi ro nghiêm trọng nhất.

Trong khi đó, Jamie Dimon cho biết JPMorgan đã ứng dụng AI từ năm 2012 để xử lý các vấn đề liên quan đến cho vay thế chấp nhà ở. Khi đó, ngân hàng sử dụng máy học để phân tích dữ liệu lớn và phát hiện những mẫu mà con người khó nhận ra.

Sau đó, JPMorgan thành lập bộ phận AI riêng và triển khai công nghệ này trong quản trị rủi ro, phát hiện gian lận, marketing, thiết kế, soạn ghi chú và rà soát tài liệu.

Về cấu trúc của thị trường phần mềm trong tương lai, Dimon dự báo các công ty phần mềm truyền thống sẽ tiếp tục tồn tại song song với các mô hình AI tạo sinh. Theo ông, khi các nhà cung cấp hiện hữu đang tích hợp AI agent vào sản phẩm, thị trường nhiều khả năng sẽ phát triển theo hướng mô hình lai thay vì AI thay thế hoàn toàn các bên còn lại.