Hiệu năng của mô hình AI không còn có thể được đánh giá chỉ bằng số tham số. Theo Jie Tang, giáo sư Đại học Thanh Hoa kiêm nhà sáng lập startup AI Z.ai, dữ liệu, cách phân bổ tài nguyên tính toán và chi phí suy luận mới là những yếu tố ngày càng quyết định khi đánh giá chiến lược mở rộng mô hình.

Chia sẻ trên mạng xã hội X về những thay đổi xoay quanh quy luật mở rộng mô hình AI (scaling law), Jie Tang cho biết quan điểm này được rút ra từ quá trình thử nghiệm và điều chỉnh liên tục.

Năm 2020, nhà nghiên cứu OpenAI Jared Kaplan công bố bài báo “Scaling Laws for Neural Language Models”, trong đó cho rằng số tham số cần tăng nhanh hơn nhiều so với dữ liệu. Từ đó, thị trường chứng kiến làn sóng ra mắt các mô hình cỡ lớn như GPT-3, Gopher và MT-NLG.

Đến năm 2022, nhóm nghiên cứu của Hoffman tại DeepMind phân tích lại 400 mô hình và đưa ra kết luận gần như ngược lại. Theo nghiên cứu này, tỷ lệ khoảng 20 token cho mỗi tham số mang lại hiệu quả cao hơn; khi tài nguyên tính toán tăng, tham số và dữ liệu nên được mở rộng với tốc độ tương đồng. Cách tiếp cận này sau đó được gọi là quy luật Chinchilla.

Bình luận về giai đoạn đó, Jie Tang cho rằng những giả định tính toán ban đầu đã bị khuếch đại khi quy mô compute tăng lên, khiến các mô hình cỡ nghìn tỷ tham số trở thành ví dụ điển hình của thiết kế kém hiệu quả.

Tuy vậy, tranh luận về scaling law không dừng lại sau Chinchilla. Theo Jie Tang, Chinchilla được xây dựng trên giả định mô hình chỉ được huấn luyện một lần rồi đem đi đánh giá. Trong khi đó, các mô hình AI hiện nay có thể phục vụ hàng tỷ lượt gọi mỗi ngày, và phần lớn chi phí trong toàn bộ vòng đời của mô hình - từ lúc ra mắt đến khi ngừng sử dụng - lại nằm ở khâu suy luận.

Khi đưa chi phí suy luận vào bài toán, kết luận cũng thay đổi. Jie Tang cho rằng phương án hiệu quả hơn có thể là giữ mô hình ở quy mô nhỏ hơn nhưng kéo dài thời gian huấn luyện. Theo ông, đây là lý do Llama2-7B và Gemma2-9B được huấn luyện với lần lượt 290 và 889 token cho mỗi tham số.

Sự phổ biến của kiến trúc Mixture of Experts (MoE) cũng làm thay đổi cách đánh giá hiệu năng. Jie Tang cho rằng tổng số tham số chủ yếu phản ánh mức độ “kiến thức” của mô hình, trong khi số tham số thực sự được kích hoạt cùng độ sâu hiệu dụng mới quyết định mô hình có thể duy trì chuỗi suy luận dài đến đâu.

Theo đó, tỷ lệ 20:1 mà Chinchilla đề xuất không còn phù hợp trong bối cảnh MoE. Jie Tang cho biết các tác vụ thiên về ghi nhớ hưởng lợi nhiều hơn từ việc tăng tham số, còn các tác vụ thiên về suy luận lại hưởng lợi từ việc tăng dữ liệu. Ông cũng dẫn nghiên cứu tiếp theo cho thấy nếu giữ nguyên tỷ lệ token nhưng chỉ tăng tổng số tham số, năng lực suy luận có thể suy giảm; ngược lại, tăng số “chuyên gia” được kích hoạt sẽ giúp cải thiện khả năng suy luận.

Nguyên tắc “tổng tham số quyết định lượng kiến thức, còn tham số kích hoạt và độ sâu hiệu dụng quyết định năng lực suy luận” cũng đã được Z.ai áp dụng trực tiếp trong quá trình thiết kế dòng mô hình GLM.

Jie Tang lấy ví dụ, khả năng tìm ra điểm yếu không phụ thuộc vào việc mô hình ghi nhớ được bao nhiêu CVE, mà nằm ở chỗ nó có thể bám theo một chuỗi suy luận 20 bước đến cùng hay không. Theo ông, năng lực này không thể có được chỉ bằng cách tăng số tham số.

Với Jie Tang, mô hình GLM-5.3 mà Z.ai công bố gần đây là một phép kiểm chứng rõ ràng cho cách tiếp cận trên. Ông cho biết công ty giữ nguyên mô hình nền, kiến trúc, tổng số tham số và số tham số kích hoạt so với GLM-5.2, chỉ tăng cường một tháng hậu huấn luyện bằng học tăng cường, và kết quả cho thấy khác biệt rất rõ.

Ông nói thêm lần thử nghiệm này chỉ tập trung vào giai đoạn hậu huấn luyện, bởi đây vẫn là phần còn nhiều dư địa cải thiện nhất, không có nghĩa các yếu tố khác đã được tối ưu hoàn toàn. Những biến số chưa được điều chỉnh gồm kích thước mô hình nền, dữ liệu tiền huấn luyện và lượng tài nguyên tính toán cho mỗi lượt lan truyền tiến.

Jie Tang nhấn mạnh không cần điều chỉnh mọi biến số cùng lúc. Theo ông, “nút” cần được tăng ở giai đoạn tiếp theo nhiều khả năng sẽ khác với giai đoạn trước, và quá trình mở rộng mô hình vẫn chưa kết thúc.