Luật Khung AI của Hàn Quốc đã có hiệu lực, nhưng tranh luận quanh cách xác định trách nhiệm pháp lý trong ngành AI vẫn chưa lắng xuống. Giới doanh nghiệp và chuyên gia pháp lý cho rằng khung hiện hành chưa phản ánh đúng cấu trúc chuỗi cung ứng thực tế, vì chưa phân định rõ nghĩa vụ giữa bên phát triển mô hình và đơn vị cung cấp, vận hành dịch vụ AI.

Theo quy định có hiệu lực từ tháng 1, đối tượng áp dụng của Luật Khung AI là “doanh nghiệp AI”. Nhóm này được chia thành hai loại: “doanh nghiệp phát triển AI”, tức đơn vị phát triển và cung cấp AI; và “doanh nghiệp sử dụng AI”, tức đơn vị dùng AI do bên khác cung cấp để tạo ra sản phẩm hoặc dịch vụ.

Trong thực tế, doanh nghiệp tự phát triển mô hình ngôn ngữ lớn (LLM) và cung cấp ra thị trường sẽ được xếp vào nhóm phát triển. Trong khi đó, doanh nghiệp sử dụng LLM hoặc API của bên thứ ba để xây dựng chatbot tư vấn, dịch vụ tìm kiếm, giáo dục hay y tế rồi cung cấp cho khách hàng có thể được xếp vào nhóm sử dụng.

Ngược lại, doanh nghiệp hoặc cá nhân chỉ dùng kết quả từ ChatGPT hay các dịch vụ AI cho công việc nội bộ, hoặc chỉ sử dụng AI để tạo nội dung, về nguyên tắc được coi là người dùng thông thường.

Tuy nhiên, giới chuyên môn cho rằng cách chia hai nhóm như trên chưa theo kịp thực tế vận hành của ngành AI. Trong một dịch vụ AI, có thể đồng thời xuất hiện nhiều chủ thể như nhà phát triển mô hình, đơn vị cung cấp API, doanh nghiệp đám mây, nhà tích hợp hệ thống, đơn vị triển khai và bên vận hành dịch vụ.

Không chỉ vậy, nhà cung cấp đám mây hoặc nền tảng cũng có thể tham gia tinh chỉnh mô hình và bổ sung các biện pháp an toàn. Về phía đơn vị vận hành dịch vụ, họ thường kết nối thêm dữ liệu, quy tắc nghiệp vụ riêng và trực tiếp quyết định AI được phép thực hiện tới mức nào.

Một đại diện trong ngành AI cho biết chủ thể thực sự nắm quyền kiểm soát sẽ khác nhau tùy nguyên nhân sự cố. Lỗi có thể xuất phát từ giới hạn của mô hình, từ kết nối API, từ khâu triển khai hệ thống hoặc từ việc đơn vị vận hành cấp quyền không phù hợp. Theo người này, luật hiện hành vẫn chưa phản ánh đầy đủ cấu trúc chuỗi cung ứng thực tế của ngành AI.

Một ví dụ thường được nhắc tới là nghĩa vụ gắn nhãn nội dung do AI tạo ra, vốn được xem là điểm bộc lộ rõ nhất giới hạn của cách phân loại doanh nghiệp hiện nay.

Điều 31 của Luật Khung AI quy định doanh nghiệp AI cung cấp AI tạo sinh, hoặc sản phẩm và dịch vụ sử dụng AI tạo sinh, phải cho biết đầu ra được tạo bởi AI. Các nghị định và hướng dẫn thực thi cho phép thể hiện bằng chữ hoặc logo để con người nhận biết, đồng thời chấp nhận cả định dạng máy có thể đọc được như metadata.

Vấn đề nằm ở chỗ cả bên phát triển mô hình lẫn đơn vị vận hành ứng dụng hoặc nền tảng sử dụng mô hình đều được xếp vào nhóm “doanh nghiệp AI”, trong khi luật chưa làm rõ mỗi bên phải thực hiện hình thức gắn nhãn nào. Bên phát triển mô hình khó kiểm soát cách hiển thị trên dịch vụ cuối cùng và giao diện tiếp cận người dùng. Trong khi đó, đơn vị vận hành dịch vụ lại không nhất thiết có đủ quyền kỹ thuật để trực tiếp nhúng metadata đáp ứng tiêu chuẩn quốc tế vào đầu ra của mô hình.

Lee Seong-yeop, giáo sư tại Trường Sau đại học Quản trị Công nghệ, Đại học Korea, cho rằng với cơ chế gắn nhãn nội dung do AI tạo ra, cần tính đến cả vai trò của các nền tảng phân phối như YouTube. Theo ông, việc đưa khái niệm “nhà phân phối” vào luật có thể là một phương án đáng cân nhắc.

Liên quan tới hướng sửa đổi hệ thống phân loại doanh nghiệp AI, giới pháp lý hiện đưa ra nhiều cách tiếp cận khác nhau. Có ý kiến đề xuất tách riêng nhà cung cấp mô hình nền tảng thành một nhóm đối tượng điều chỉnh độc lập. Một số quan điểm khác lại cho rằng nên giữ khung phân loại giữa bên phát triển và bên sử dụng, nhưng tách nghĩa vụ theo chức năng của từng chủ thể.

Kye In-guk, giáo sư tại Trường Sau đại học Hành chính công, Đại học Korea, cho rằng luật cần bổ sung riêng khái niệm “mô hình AI” để có thể điều chỉnh trực tiếp nhà cung cấp mô hình. Theo ông, nếu tiếp tục phân loại doanh nghiệp xoay quanh “hệ thống AI” như hiện nay, doanh nghiệp cung cấp mô hình nền tảng qua API có thể đứng ngoài phạm vi nghĩa vụ, trong khi phần trách nhiệm lại dồn sang doanh nghiệp xây dựng dịch vụ ứng dụng dựa trên chính mô hình đó.

Ông Kye nhận định trong khung pháp lý hiện hành, nghĩa vụ chủ yếu đang đặt lên đơn vị xây dựng và cung cấp hệ thống ứng dụng, còn nhà cung cấp mô hình gốc có thể không phải chịu trách nhiệm pháp lý tương xứng. Ông nhấn mạnh cần sớm bổ sung khái niệm “mô hình AI” để tránh khoảng trống pháp lý và tình trạng chuyển gánh nặng tuân thủ một cách bất hợp lý.

Ở hướng ngược lại, một số ý kiến cho rằng không nhất thiết phải bổ sung thêm loại hình doanh nghiệp mới. Thay vào đó, địa vị pháp lý nên được xác định theo chức năng thực tế và phạm vi kiểm soát của từng chủ thể. Theo cách tiếp cận này, một doanh nghiệp có thể đồng thời là bên phát triển và bên sử dụng nếu vừa phát triển mô hình vừa cung cấp dịch vụ ứng dụng, và nghĩa vụ của doanh nghiệp đó cũng phải được xác định theo mức độ can thiệp vào hệ thống.

Một phương án khác là giữ nguyên cách phân loại hai nhóm, nhưng chia nghĩa vụ theo từng giai đoạn kỹ thuật và giai đoạn dịch vụ. Theo đó, bên phát triển sẽ chịu trách nhiệm về các biện pháp an toàn ở cấp độ mô hình và nhãn kỹ thuật, còn đơn vị cung cấp dịch vụ sẽ chịu trách nhiệm thông báo tới người dùng và thực hiện các nghĩa vụ quản trị vận hành.

Dự thảo sửa đổi Luật Khung AI do nghị sĩ Ahn Cheol-soo của đảng Quyền lực Nhân dân mới đệ trình gần đây cũng đi theo hướng này. Dự thảo yêu cầu doanh nghiệp phát triển áp dụng nhãn ở định dạng máy có thể đọc được đối với nội dung do AI tạo ra, trong khi doanh nghiệp sử dụng phải bảo đảm người dùng cuối có thể nhận biết nội dung đó.

Nghị sĩ Ahn cho rằng nếu buộc doanh nghiệp phát triển mô hình phải chịu cả trách nhiệm hiển thị trên màn hình ứng dụng, đồng thời yêu cầu doanh nghiệp cung cấp ứng dụng triển khai luôn tiêu chuẩn kỹ thuật bên trong mô hình, thì cùng một nghĩa vụ hiển thị sẽ bị áp lên cả hai phía. Theo ông, sửa đổi lần này có thể giúp doanh nghiệp giảm chi phí phát triển trùng lặp và bớt bất định pháp lý, đồng thời giúp người dùng nhận biết rõ hơn nội dung do AI tạo ra.