Tại Snapdragon Summit ở Maui, Hawaii, các đối tác trong hệ sinh thái Snapdragon đã giới thiệu loạt mô hình và engine suy luận tối ưu cho Hexagon NPU, với mục tiêu đưa AI agent chạy trực tiếp trên thiết bị đến các hãng sản xuất smartphone, kính thông minh, thiết bị đeo và ôtô. Theo các công ty này, việc vận hành agent trên đám mây làm phát sinh chi phí theo số lần truy vấn và dễ bị gián đoạn khi mất kết nối. Qualcomm cho biết MemoriesAI hiện đã vận hành mô hình riêng 3 tỷ tham số cho smartphone và 1,5 tỷ tham số cho thiết bị đeo trên Hexagon NPU.

Ngày 24/9 theo giờ địa phương, AGI, LiquidAI và MemoriesAI đã trình diễn công nghệ AI agent chạy trực tiếp trên thiết bị tại phiên “Elite Experience” trong khuôn khổ Snapdragon Summit. Steven Frey, đồng sáng lập kiêm Chủ tịch AGI, cho biết công ty đang hợp tác với Qualcomm để đưa thêm nhiều tác vụ agent lên xử lý ngay trên thiết bị.

Theo Frey, sản phẩm AGI cung cấp cho các hãng sản xuất là một bộ phần mềm chuyên cho AI agent. Ông lấy ví dụ việc sao chép địa chỉ từ ứng dụng lịch rồi dán sang ứng dụng gọi xe, cho rằng agent có thể truy cập ngữ cảnh trên toàn bộ thiết bị và giữa các ứng dụng để thay người dùng xử lý những thao tác lặp lại như vậy.

Deeb Garg, CEO AGI, giới thiệu ngăn xếp agentic của công ty gồm mô hình hành vi “AGI Act” và engine suy luận riêng “AGI Arrow”. Theo ông, mô hình này có thể điều khiển trực tiếp các ứng dụng bên thứ ba đã cài trên smartphone mà không cần API riêng hoặc tích hợp bổ sung. AGI hiện nhắm tới các nhóm ứng dụng như cài đặt, gọi xe, mạng xã hội và mua sắm. Garg cho biết đây mới là mức triển khai trên phần cứng hiện có cùng thế hệ mô hình on-device đầu tiên, và hiệu năng sẽ tiếp tục được cải thiện.

Garg nhấn mạnh AGI trước mắt cung cấp các agent có khả năng chủ động hành động cho doanh nghiệp sản xuất smartphone, ôtô, kính thông minh và đồng hồ. Ông cũng cho biết lớp hành vi của AGI hiện đã có thể chạy trên nền tảng Snapdragon, đồng thời kêu gọi các bên đang phát triển thiết bị hoặc muốn kết nối sản phẩm với ứng dụng trên thiết bị người dùng liên hệ với công ty.

LiquidAI giới thiệu mô hình có khả năng hiểu ngữ cảnh thực tế của người dùng. Jeffrey Li, COO của LiquidAI, cho biết mục tiêu của công ty là xây dựng mô hình nền tảng hiệu quả nhất có thể vận hành trong môi trường thực.

Theo mô tả của LiquidAI, khi Qualcomm Sensing Hub liên tục cung cấp các tín hiệu phát sinh trên thiết bị, Hexagon NPU sẽ sử dụng chúng để tạo và cập nhật ngữ cảnh cá nhân của người dùng theo thời gian thực ngay trên máy. Li nhận định rằng một agent chỉ đọc tin nhắn và lịch hẹn mới chỉ dừng ở mức suy đoán, trong khi nếu nắm được bối cảnh đời thực, AI có thể chủ động hỗ trợ mà không cần gửi toàn bộ dữ liệu lên đám mây.

MemoriesAI cung cấp một lớp “ký ức” để các agent khác có thể khai thác. Sean Shen, CEO MemoriesAI, cho biết công ty đang cùng Qualcomm phát triển mô hình thị giác - ngôn ngữ phục vụ nhận thức trên thiết bị. Theo Shen, ngay cả khi không sử dụng trợ lý AI của MemoriesAI, người dùng vẫn có thể cá nhân hóa bất kỳ agent nào bằng mô hình này; đồng thời một mô hình chạy trên nền tảng Snapdragon có thể hoạt động trên mọi thiết bị mà người dùng mang theo.

Qualcomm cũng đang mở rộng hệ sinh thái đối tác theo hướng này. Vinesh Sukumar, Phó chủ tịch quản lý sản phẩm phụ trách mảng AI của Qualcomm, đánh giá các màn trình diễn tại sự kiện cho thấy AI on-device của Snapdragon có thể tận dụng ngữ cảnh để thực hiện những hành động có ý nghĩa, đồng thời vẫn bảo đảm hiệu quả về chi phí và điện năng.

Theo Qualcomm, hãng hiện xây dựng ngăn xếp agentic on-device cùng hàng chục đối tác trong các lĩnh vực như mô hình, bộ nhớ, công cụ, điều phối và quản trị. Sukumar cho biết agentic AI đang ghi nhận phản hồi tích cực trong giai đoạn đầu và được kỳ vọng sẽ bước vào giai đoạn định hình rõ nét ngay trong năm nay.