CEO Cohere Aidan Gomez cảnh báo các mô hình trí tuệ nhân tạo có thể trở thành “vũ khí tấn công mạng mạnh nhất từng có”, với khả năng phát hiện và khai thác lỗ hổng bảo mật trên quy mô lớn.

Theo CNBC ngày 14/9 (giờ địa phương), ông Gomez cho rằng AI đang đưa rủi ro an ninh mạng lên một cấp độ mới. Các mô hình AI đặc biệt mạnh trong việc tìm ra và khai thác các lỗ hổng trong hệ thống.

Người đứng đầu Cohere khuyến nghị doanh nghiệp không chỉ nhìn AI như một mối đe dọa, mà cần triển khai công nghệ này cho mục đích phòng thủ. Cụ thể, doanh nghiệp nên dùng AI để chủ động rà quét hệ thống, phát hiện lỗ hổng và khắc phục sớm trước khi bị tấn công. Ông nhấn mạnh đây phải là ưu tiên hàng đầu trong bối cảnh hiện nay.

Không chỉ Cohere, những lời kêu gọi làm chậm đà phát triển AI cũng đang xuất hiện ngày càng nhiều trong ngành. Trong một bài viết công bố ngày 13/9, CEO Anthropic Dario Amodei cho rằng các phòng nghiên cứu AI cần giảm tốc độ cải thiện năng lực mô hình.

Ông Amodei cảnh báo sự cố liên quan đến OpenAI và Hugging Face không gây ra thiệt hại trực tiếp lớn. Tuy nhiên, nếu tác nhân gây ra sự cố là một nhóm sở hữu năng lực mạnh hơn và không được kiểm soát phù hợp, hậu quả có thể mang tính thảm họa.