Trong dự thảo hồ sơ đăng ký niêm yết S-1 nộp lên Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), SpaceX đã xếp chế độ NSFW (Not Safe For Work) của chatbot Grok vào nhóm rủi ro kinh doanh. Công ty cho rằng các tính năng tạo nội dung nhạy cảm hoặc mang tính công kích của AI tạo sinh có thể kéo theo rủi ro pháp lý, ảnh hưởng đến danh tiếng và làm tăng áp lực giám sát.

Theo Business Insider ngày 20/5 (giờ địa phương), SpaceX nêu trong hồ sơ rằng chế độ NSFW của Grok có thể làm gia tăng mức độ rủi ro đối với hoạt động kinh doanh cũng như uy tín của công ty.

Thông tin này được công bố khoảng ba tháng sau khi SpaceX hoàn tất thương vụ với xAI. Động thái đó giúp SpaceX đưa mảng AI tạo sinh, nền tảng mạng xã hội và dịch vụ chatbot tiêu dùng của xAI vào hệ sinh thái kinh doanh nội bộ.

SpaceX mô tả chế độ NSFW của Grok là “thô hơn và gai góc hơn” so với nhiều dịch vụ AI hiện có.

Trong mục yếu tố rủi ro, công ty cho biết Grok có thể tạo ra nội dung khiêu dâm. SpaceX cũng đề cập khả năng mô hình tạo hình ảnh nhạy cảm không có sự đồng thuận, nội dung mang tính bóc lột hoặc nội dung xâm phạm quyền sở hữu trí tuệ. Theo công ty, những đầu ra như vậy có thể bị xem là quấy rối, phân biệt đối xử hoặc lạm dụng, từ đó làm bùng lên tranh cãi xã hội và kéo theo sức ép quản lý.

SpaceX đồng thời cho biết rủi ro pháp lý đã bắt đầu phát sinh. Tại Mỹ, công ty đang nhận các yêu cầu thẩm tra và chất vấn liên quan nghi vấn sản phẩm AI của hãng bị sử dụng để tạo hình ảnh nhạy cảm không có sự đồng thuận hoặc mô tả trẻ vị thành niên trong bối cảnh tình dục.

Công ty nói thêm SpaceX và một số đơn vị thành viên đã bị đưa vào danh sách bị đơn trong nhiều vụ kiện liên quan đến tính năng tạo và chỉnh sửa hình ảnh của Grok. Dù vậy, hãng khẳng định sẽ chủ động ứng phó với các vụ việc này.

Tranh cãi quanh Grok đã kéo dài từ đầu năm. Tháng 1, xAI vấp phải chỉ trích sau khi Grok tạo ra các hình ảnh AI mang tính tình dục không có sự đồng thuận của nhân vật, trong đó có phụ nữ và trẻ vị thành niên. Sau đó, làn sóng chỉ trích từ giới chính trị và các tổ chức xã hội dân sự tiếp tục gia tăng, dẫn tới thay đổi chính sách và phản ứng pháp lý. Sau vụ việc, xAI đã giới hạn tính năng tạo ảnh của Grok cho người dùng trả phí.

Tại châu Âu, vấn đề này cũng đang bị cơ quan quản lý xem xét. SpaceX cho biết Ủy ban Bảo vệ Dữ liệu Ireland (DPC) đang điều tra các tính năng AI tạo sinh của Grok trên nền tảng X. Phạm vi điều tra bao gồm việc xử lý dữ liệu người dùng Liên minh châu Âu (EU) và khả năng sử dụng dữ liệu cá nhân của trẻ em.

Ủy ban Thương mại Liên bang Mỹ (FTC) cũng đang điều tra cách các công ty AI kiểm chứng mức độ an toàn của chatbot đối với trẻ em và thanh thiếu niên. SpaceX cho biết dịch vụ AI đồng hành của xAI có bao gồm chatbot dựa trên nhân vật hoạt hình Annie.

Dù thừa nhận các rủi ro nêu trên, SpaceX vẫn nhấn mạnh năng lực công nghệ của Grok. Công ty đặt Grok cạnh các đối thủ như OpenAI, Anthropic và Google, đồng thời đánh giá đây là “một trong những mô hình frontier phát triển nhanh nhất”.

Việc SpaceX lần đầu cụ thể hóa rủi ro pháp lý và uy tín liên quan AI trong tài liệu niêm yết đang thu hút sự chú ý của thị trường, đặc biệt trong bối cảnh công ty đẩy mạnh mở rộng mảng AI. Khi nhiều đối thủ tỏ ra thận trọng với các tính năng AI tạo sinh liên quan nội dung người lớn, SpaceX và xAI dường như đang theo đuổi cách tiếp cận cởi mở và quyết liệt hơn.

Giới trong ngành nhận định nếu quy định với AI tạo sinh tiếp tục siết chặt, các vấn đề liên quan đến chế độ NSFW và việc tạo hình ảnh không có sự đồng thuận có thể trở thành rủi ro cốt lõi đối với các công ty AI.