Chuyên gia an ninh Bruce Schneier cảnh báo các mô hình AI thế hệ mới không chỉ có khả năng tìm và khai thác lỗ hổng phần mềm, mà còn có thể được dùng để phát hiện kẽ hở trong luật thuế và các hệ thống quản lý phức tạp.

Cảnh báo này được đưa ra trong bối cảnh Anthropic công bố hạn chế mô hình AI Mithos, một hệ thống được cho là đặc biệt hiệu quả trong việc phát hiện lỗ hổng phần mềm, qua đó làm dấy lên tranh luận về tác động của AI đối với ngành an ninh mạng.

Mozilla Foundation, tổ chức đứng sau trình duyệt mã nguồn mở Firefox, cùng hãng an ninh mạng Palo Alto Networks cũng đã chia sẻ trải nghiệm sử dụng Mithos, khiến lo ngại về các mối đe dọa do AI tạo ra tiếp tục gia tăng.

Theo Bruce Schneier, giảng viên tại Trường Kennedy thuộc Đại học Harvard, tác động của AI có thể không dừng ở lĩnh vực bảo mật. Trong bài viết đăng gần đây trên The Guardian, ông cho rằng từ trường hợp của Mithos có thể thấy AI đang mở ra rủi ro mới đối với luật thuế và các cơ chế quản lý, giám sát.

Trước hết, Schneier tỏ ra hoài nghi về cách Anthropic xử lý câu chuyện quanh Mithos. Theo ông, khi tuyên bố mô hình này “quá nguy hiểm để phát hành”, Anthropic có thể không chỉ xuất phát từ yếu tố rủi ro mà còn từ những cân nhắc nội bộ.

Ông nhận định việc không phát hành rộng rãi Mithos có thể liên quan tới chi phí vận hành quá cao, khiến Anthropic hiện chưa đủ điều kiện để cung cấp đại trà cho công chúng.

Dù vậy, Schneier không phủ nhận mức độ đe dọa mà Mithos có thể tạo ra. Ông cho rằng các mô hình AI tạo sinh mới nhất, không chỉ của Anthropic mà còn từ OpenAI và cộng đồng mã nguồn mở, ngày càng giỏi trong việc tìm kiếm và khai thác lỗ hổng phần mềm.

Theo ông, năng lực này có thể giúp kẻ tấn công xâm nhập vào các hệ thống trọng yếu trên toàn cầu, cài mã độc tống tiền, đánh cắp dữ liệu hoặc chiếm quyền kiểm soát hệ thống, từ đó khiến thế giới trở nên rủi ro và bất ổn hơn.

Ở chiều ngược lại, AI cũng có thể tăng cường đáng kể năng lực phòng thủ. Mozilla cho biết đã sử dụng Mithos để phát hiện và khắc phục 271 lỗ hổng trong Firefox.

Schneier dự báo trong tương lai, việc AI tự động tìm và vá lỗ hổng có thể trở thành tiêu chuẩn trong quy trình phát triển phần mềm.

Tuy nhiên, theo ông, rủi ro lớn hơn nằm ở chỗ các mô hình như Mithos có thể được áp dụng cho những hệ thống có cấu trúc phức tạp khác, chứ không chỉ giới hạn trong an ninh mạng.

Schneier cho rằng năng lực tìm kiếm, nhận diện mẫu và suy luận vốn phát huy hiệu quả khi phân tích phần mềm cũng có thể được dùng để xử lý những hệ thống tương tự về mặt cấu trúc. Một ví dụ điển hình là hệ thống luật thuế.

Theo ông, luật thuế không phải là mã máy tính, nhưng vẫn vận hành như một hệ thống có đầu vào, đầu ra và nhiều lớp quy tắc. Trong hệ thống đó luôn tồn tại các kẽ hở thuế cũng như những chiến lược tránh thuế để khai thác các khoảng trống pháp lý.

Ông nói trong lĩnh vực công nghệ có những người chủ động tìm và tận dụng điểm yếu của hệ thống; còn trong lĩnh vực thuế, vai trò tương tự thường do luật sư và kế toán đảm nhiệm.

Schneier nhận định các ngân hàng đầu tư lớn có thể đã âm thầm sử dụng AI để khai thác những kẽ hở này. Theo ông, họ có thể đưa hệ thống luật thuế của Mỹ, Anh và các nước công nghiệp khác vào mô hình AI rồi yêu cầu mô hình tìm ra các chiến lược giúp giảm nghĩa vụ thuế.

Ông cho rằng hiện chưa ai biết AI có thể phát hiện 10, 100 hay 1.000 kẽ hở, hoặc liệu công nghệ này có thể tìm ra những phương thức tinh vi hơn để giảm thuế bằng cách kết hợp khéo léo luật thuế của nhiều quốc gia hay không.

Nếu AI tạo ra hàng loạt ý tưởng tối ưu thuế, luật sư và kế toán có thể sàng lọc những phương án khả thi, hoàn thiện về mặt pháp lý và cung cấp cho nhóm khách hàng giàu có, Schneier nói.

Theo ông, điều tương tự cũng có thể xảy ra với mọi hệ thống quy định phức tạp khác, chẳng hạn như quy định về môi trường hay an toàn thực phẩm.

Schneier cảnh báo thiệt hại từ kịch bản này thậm chí có thể lớn hơn việc AI tìm ra lỗ hổng phần mềm.

Ông lập luận rằng kẽ hở thuế làm suy giảm nguồn thu ngân sách, còn kẽ hở trong các quy định giúp bên có ưu thế dễ lách luật hơn. Trong khi các công ty phần mềm có thể phát hành bản vá chỉ trong vài ngày, việc sửa đổi luật thuế thường kéo dài nhiều năm.

Không chỉ vậy, quá trình điều chỉnh này còn mang nặng tính chính trị và có thể bị cản trở bởi các nhóm vận động hành lang, khiến việc “vá” các kẽ hở trở nên khó khăn hơn nhiều.

Schneier ví von rằng nếu Cách mạng Công nghiệp thay thế sức lao động thể chất của con người bằng máy móc, thì cuộc cách mạng AI đang thay thế một phần hoạt động trí tuệ của con người bằng máy móc.

Ông nhấn mạnh rằng các hệ thống thuế, quy định và bảo mật hiện nay đều được thiết kế theo “tốc độ của con người”, chứ không phải để chịu được “tốc độ của AI”. Theo Schneier, việc thích nghi sẽ rất khó khăn, nhưng không còn lựa chọn nào khác.