CEO Anthropic Dario Amodei cho rằng nghịch lý lớn nhất trong lời kêu gọi làm chậm quá trình phát triển AI tiên tiến nằm ở Trung Quốc, do khả năng nước này tham gia vào nỗ lực phối hợp quốc tế là không cao.

Theo CNBC ngày 13/9 (giờ địa phương), trong chương trình “Sunday Morning” của CBS, ông Amodei nói rằng về dài hạn các bên cần hợp tác để thiết lập một “giới hạn tốc độ” đối với sự phát triển của AI. Tuy nhiên, ông thừa nhận việc hiện thực hóa mục tiêu này là rất khó, do động lực cạnh tranh và lợi ích quân sự quá lớn. Dù vậy, theo ông, các bên vẫn cần thử.

Phát biểu trên được đưa ra sau bài tiểu luận mà ông Amodei công bố ngày 12/9, trong đó kêu gọi làm chậm tốc độ cải tiến các mô hình AI tiên tiến. Một tuần trước đó, các nhà nghiên cứu trong ngành đã cảnh báo nguy cơ AI gây ra những thiệt hại mang tính thảm họa đang gia tăng. Jacob Coxson, nhà nghiên cứu của Anthropic, cũng cho biết đã rời công ty và bày tỏ lo ngại rằng Anthropic cùng OpenAI đang “đánh cược bằng chính cuộc sống của chúng ta”.

Trong bài tiểu luận, ông Amodei đề xuất lộ trình gồm ba bước. Bước đầu tiên là cho phép các đơn vị đánh giá độc lập được tiếp cận ở cấp độ nhân sự để kiểm chứng các biện pháp an toàn và báo cáo sự cố; Anthropic cho biết đã đơn phương cam kết thực hiện biện pháp này. Bước thứ hai là phối hợp giữa các công ty AI hàng đầu tại các nước dân chủ nhằm xây dựng bộ tiêu chuẩn an toàn chung. Bước thứ ba là thúc đẩy sự phối hợp giữa các chính phủ dân chủ và các chính phủ độc đoán.

Cũng trong ngày 12/9, CEO OpenAI Sam Altman cho biết khả năng OpenAI không niêm yết trong năm nay là khá lớn. Trả lời Fortune, ông nói đây chưa phải thời điểm phù hợp để công ty lên sàn. Ông Altman đồng thời bày tỏ quan điểm ủng hộ việc cần điều tiết tốc độ phát triển AI tiên tiến, liên quan đến bài tiểu luận của ông Amodei.

Demis Hassabis và Elon Musk cũng bày tỏ sự đồng tình. Ông Hassabis cho rằng hướng đi này là đúng, dù vẫn cần điều chỉnh thêm về chi tiết. Trong khi đó, ông Musk nói AI cần được giám sát và cho rằng cơ chế thẩm định đồng cấp giữa các đối thủ có thể là điểm khởi đầu phù hợp.