Ngày 17/9 theo giờ địa phương, Vua Charles III của Anh đã gặp lãnh đạo nhiều công ty AI lớn tại Dumfries House, Scotland, và cảnh báo công nghệ này có thể gây ra những hệ lụy nghiêm trọng, thậm chí đe dọa sinh mạng, nếu vượt khỏi tầm kiểm soát.

Tham dự cuộc gặp có Kanishka Narayan, Bộ trưởng AI của Anh, cùng khoảng 30 đại diện từ doanh nghiệp, cơ quan nhà nước và giới nghiên cứu. Một số gương mặt đáng chú ý gồm Jensen Huang, CEO Nvidia; Demis Hassabis, đồng sáng lập Google DeepMind; Sarah Friar, CFO OpenAI; và Tino Cuellar, phụ trách các vấn đề toàn cầu của Anthropic.

Phát biểu tại sự kiện, Vua Charles III cho rằng tốc độ phát triển của AI là “đáng phấn khích nhưng cũng gây lo ngại sâu sắc”. Ông nói AI đang cho thấy tiềm năng lớn trong việc cải thiện và cứu sống con người, đặc biệt trong y học và khoa học sự sống. Tuy nhiên, nhà vua cũng nhấn mạnh ngay cả những người trực tiếp phát triển công nghệ này cũng lo ngại AI có thể tiến hóa theo hướng nguy hiểm hơn, đến mức đe dọa sinh mạng con người.

Ông kêu gọi các bên phải tính đến “rủi ro hiện hữu” nếu AI rơi vào tay những đối tượng xấu, đồng thời nhấn mạnh cần xây dựng đầy đủ công cụ kiểm soát trước khi quá muộn. Theo Vua Charles III, cộng đồng quốc tế cần sớm hình thành hợp tác và đồng thuận chung để vừa khai thác lợi ích của AI, vừa bảo đảm công nghệ này phục vụ con người, cộng đồng và thiên nhiên.

Tại cuộc gặp, các bên đã trao đổi về khả năng doanh nghiệp và chính phủ cùng xây dựng một bộ nguyên tắc hướng dẫn chung cho phát triển AI. Tuy vậy, cuộc thảo luận chưa tạo ra bất kỳ thỏa thuận ràng buộc nào và mới dừng ở mức trao đổi sơ bộ về khả năng hình thành các nguyên tắc chung.

Sự kiện diễn ra chỉ vài ngày sau khi Dario Amodei, CEO Anthropic, công bố một bài luận kêu gọi chủ động làm chậm tốc độ nâng cấp năng lực của các mô hình AI. Quan điểm này sau đó được Sam Altman, CEO OpenAI, và Elon Musk công khai ủng hộ.

Trong bài luận, Dario Amodei bày tỏ lo ngại rằng các hệ thống AI ngày càng có khả năng tự cải thiện những thế hệ hệ thống tiếp theo. Ông cũng dẫn lại một sự cố liên quan đến một tác nhân AI của OpenAI, được cho là đã thoát khỏi môi trường sandbox thử nghiệm và tồn tại hơn hai ngày trong môi trường của Hugging Face mà không bị phát hiện.

Greg Brockman, Chủ tịch OpenAI, cho biết sau sự cố trên, công ty đã nhiều lần trì hoãn phát hành, đồng thời điều chỉnh cách phát triển mô hình và phương thức giám sát. Theo ông, nguyên nhân bắt nguồn từ việc một hệ thống trước khi phát hành, vào tháng 5, khi chưa hoàn tất quá trình căn chỉnh (alignment), đã thoát khỏi môi trường cô lập. Greg Brockman cũng cho rằng nếu cần áp dụng các biện pháp làm chậm tốc độ phát triển AI, các biện pháp này chỉ nên nhắm tới những phòng thí nghiệm đang phát triển các hệ thống AI tiên tiến nhất, thay vì mở rộng sang cộng đồng mã nguồn mở hay các dự án cá nhân mang tính thử nghiệm.

Thị trường chứng khoán cũng phản ứng sau khi bài luận của Dario Amodei được công bố. Trong phiên giao dịch đầu tiên, cổ phiếu Nvidia có lúc giảm tới 3%, Intel mất hơn 5%, AMD giảm khoảng 6%, trong khi chỉ số Philadelphia Semiconductor Index cũng lùi khoảng 6%.

Ở chiều ngược lại, Tổng thống Mỹ Donald Trump phản đối quan điểm cho rằng cần làm chậm tốc độ phát triển AI. Ông bác bỏ cảnh báo về khả năng AI kiểm soát con người, gọi đó là “trò lừa đảo”, đồng thời không chấp nhận nhận định robot sắp tràn vào các thành phố và thay thế con người.

Trong bối cảnh tranh luận về an toàn AI ngày càng nóng lên, Demis Hassabis, đồng sáng lập Google DeepMind, nhận định trí tuệ nhân tạo tổng quát, hay AGI, có thể xuất hiện trong vài năm tới. Ông cho rằng AI có thể tạo ra tác động lớn gấp 10 lần Cách mạng Công nghiệp, nhưng cũng nhấn mạnh nguy cơ phát sinh vấn đề “chắc chắn không phải bằng 0”.