iPhone 17 Pro của Apple. Ảnh: Apple

PrismML cho biết đã vận hành thành công mô hình trí tuệ nhân tạo (AI) 27 tỷ tham số trên iPhone 17 Pro, một quy mô hiếm thấy đối với AI chạy trực tiếp trên thiết bị di động.

Theo The Information ngày 9/7 (giờ địa phương), startup này đã nén mô hình ngôn ngữ lớn mã nguồn mở Qwen3.6 của Alibaba để có thể chạy trên iPhone. PrismML nói mô hình có thể thực hiện hội thoại phức tạp, suy luận, vận hành tác tử tự trị hoàn toàn và hỗ trợ lập trình phần mềm.

Động thái này diễn ra trong bối cảnh Apple thời gian qua liên tục nhấn mạnh chiến lược AI trên thiết bị, tập trung xử lý trực tiếp các tính năng AI trên iPhone thay vì chạy đua đầu tư hạ tầng trung tâm dữ liệu AI.

Trong cuộc phỏng vấn với The Information, CEO PrismML Babak Hassibi nói: “Hãy hình dung trong khoảng ba năm tới, 95% năng lực trí tuệ cần thiết sẽ được xử lý cục bộ trên điện thoại, laptop và thiết bị gia dụng; chỉ 5% còn lại mới cần đưa lên đám mây”.

Theo ông, công nghệ nén mô hình có thể làm thay đổi cấu trúc kinh tế của ngành AI.

PrismML cũng cho biết đã huy động được 16,25 triệu USD trong vòng seed hồi đầu năm nay từ các nhà đầu tư, trong đó có Khosla Ventures.

Về mặt kỹ thuật, công ty nói họ đã sử dụng các phương pháp toán học để thu gọn đáng kể kích thước của Qwen3.6. PrismML nhấn mạnh rằng dù việc nén mô hình thường làm giảm hiệu suất, công ty vẫn có thể thu nhỏ mô hình mà không làm suy giảm hiệu suất hoạt động.

Từ khóa

#PrismML #Apple #iPhone 17 Pro #AI trên thiết bị #Qwen3.6 #mô hình ngôn ngữ lớn
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.