Mô hình AI Claude của Anthropic. Ảnh: Shutterstock

Anthropic cho biết Claude có thể đưa ra những phản hồi với sắc thái khác nhau cho cùng một câu hỏi, tùy theo mô hình được sử dụng và ngôn ngữ của cuộc hội thoại. Kết luận này được rút ra từ phân tích 309.815 hội thoại ẩn danh của người dùng Claude, theo Decrypt ngày 13/7 (giờ địa phương).

Nghiên cứu tập trung vào các hội thoại có yếu tố đánh giá chủ quan, như đưa lời khuyên hoặc phản hồi. Anthropic tổng hợp hơn 3.300 “giá trị” và phân loại thành 4 trục hành vi gồm: tôn trọng - thận trọng, ấm áp - nghiêm khắc, sâu - gọn, và thẳng thắn - thiên về đưa ra hướng xử lý.

Nhóm nghiên cứu cho biết đã kiểm soát các yếu tố như loại nhiệm vụ, chủ đề và những giá trị được người dùng thể hiện trong từng hội thoại nhằm giảm tác động từ khác biệt về nội dung câu hỏi hoặc cách diễn đạt.

Sự khác biệt giữa các mô hình thể hiện khá rõ. Sonnet 4.6 có xu hướng ấm áp hơn, dễ đồng thuận và ngắn gọn hơn, với phản hồi thường mang tính khẳng định, đôi khi pha chút hài hước hoặc khích lệ.

Trong khi đó, Opus 4.7 thiên về sự nghiêm khắc, thận trọng, thẳng thắn và chiều sâu. Các câu trả lời của mô hình này thường chất vấn giả định, trình bày rõ lập luận, chỉ ra rủi ro và thừa nhận giới hạn.

Opus 4.6 nhìn chung được xếp vào nhóm phản hồi ngắn hơn và thiên về đưa ra hướng xử lý, nhưng vẫn nhấn mạnh tính chặt chẽ nhiều hơn Sonnet.

Theo Anthropic, kết quả trên cũng tương đối phù hợp với cảm nhận thực tế của người dùng. Nhóm nghiên cứu cho biết các phát hiện “nhìn chung trùng với cách mọi người, cả trong nội bộ Anthropic lẫn trên mạng, vẫn mô tả về từng mô hình”, đồng thời cho biết người dùng Claude từ lâu đã nhận xét Opus 4.7 dè dặt hơn các mô hình khác trong cách trả lời.

Khác biệt cũng xuất hiện theo ngôn ngữ. Phản hồi bằng tiếng Arab có xu hướng lịch sự hơn, trong khi tiếng Anh nhấn mạnh sự thận trọng. Claude thể hiện mức độ ấm áp rõ nhất ở tiếng Hindi và tiếng Arab, với cách diễn đạt nhã nhặn, vui vẻ và mang tính khích lệ.

Ngược lại, phản hồi bằng tiếng Anh và tiếng Nga nghiêm khắc hơn, thường xuyên bác bỏ các giả định, chỉnh lại chi tiết và yêu cầu thêm bằng chứng.

Cách diễn đạt cũng không giống nhau giữa các ngôn ngữ. Phản hồi bằng tiếng Anh thường chi tiết hơn, còn tiếng Arab tương đối súc tích. Tiếng Hà Lan có xu hướng thừa nhận sự bất định hoặc khả năng sai sót rõ hơn, trong khi tiếng Indonesia tập trung hơn vào việc đáp ứng yêu cầu của người dùng.

Tuy vậy, Anthropic nhấn mạnh những khác biệt này không có nghĩa Claude sở hữu một “hệ giá trị” riêng. Công ty cho biết hiện vẫn chưa rõ nguyên nhân tạo ra các khác biệt đó, cũng như chưa thể kết luận liệu chúng có thực sự mong muốn hay không.

Dù vậy, Anthropic cho rằng khung phân tích lần này có thể hỗ trợ việc đánh giá mô hình và phát hiện những thay đổi hành vi ngoài ý muốn trong tương lai.

Nghiên cứu này cũng nằm trong chuỗi nỗ lực của Anthropic nhằm theo dõi cơ chế vận hành nội bộ và đặc tính hành vi của Claude. Tháng 10 năm ngoái, công ty cho biết Claude đã cho thấy dấu hiệu ban đầu của “nhận thức nội quan chức năng”, tức khả năng nhận biết và mô tả quá trình xử lý bên trong. Đến tháng 4 năm nay, Anthropic tiếp tục công bố đã xác định được các vector cảm xúc nội bộ có ảnh hưởng đến hành vi của mô hình, đồng thời nhấn mạnh các đặc tính này không đồng nghĩa với cảm xúc hay ý thức thực sự.

Qua công bố mới nhất, Anthropic cho thấy chất lượng phản hồi của AI không chỉ có thể được đánh giá bằng độ chính xác, mà còn qua thái độ và cách diễn đạt. Kết quả nghiên cứu cũng gợi mở khả năng xây dựng một chuẩn tham chiếu để theo dõi biến động hành vi của mô hình trong thời gian tới.

Từ khóa

#Anthropic #Claude #AI #mô hình ngôn ngữ #hành vi mô hình #đánh giá mô hình
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.