The Information ngày 21/7 (giờ địa phương), dẫn tài liệu nội bộ, cho biết Meta đang phát triển Switchboard - một công cụ định tuyến mô hình AI có khả năng cạnh tranh với OpenRouter. Dự án do AAI Labs, bộ phận phát triển các sản phẩm và công cụ AI nội bộ của Meta, phụ trách.

Theo một bản ghi nhớ nội bộ trong tháng 7, AAI Labs đã phê duyệt gần 200 dự án, trải rộng từ sản phẩm dành cho người dùng cuối, công cụ cho nhà phát triển đến hạ tầng nội bộ.

Một trong những dự án đáng chú ý là Switchboard, bộ định tuyến AI dùng để phân luồng yêu cầu tới mô hình phù hợp. Hệ thống này chấm điểm mức độ phức tạp của yêu cầu từ người dùng hoặc tác nhân AI, sau đó quyết định mô hình nào sẽ xử lý. Những yêu cầu đơn giản hơn sẽ được chuyển sang các mô hình nhỏ hơn, có chi phí thấp hơn.

Cách tiếp cận của Switchboard được cho là tương tự Auto Router của OpenRouter. Tuy nhiên, tài liệu nội bộ cho thấy dự án vẫn ở giai đoạn đầu và có thể không được thương mại hóa.

The Information cho biết các nhóm nội bộ của Meta có thể sử dụng Switchboard để giảm chi phí vận hành. Ngoài ra, công cụ này cũng có thể được cung cấp cho các tổ chức đang vận hành tác nhân AI phục vụ lập trình ở quy mô lớn.

Meta dự kiến chi 145 tỷ USD cho hạ tầng AI và các hạng mục liên quan trong năm nay, tăng hơn 2 lần so với năm trước.

Thị trường định tuyến mô hình hiện thu hút sự chú ý của nhiều tên tuổi lớn khi OpenAI, Databricks và Palantir cũng đã tung ra sản phẩm cùng phân khúc. Tính đến tháng 4, OpenRouter được định giá 1,3 tỷ USD và gần đây còn được nhắc đến như một mục tiêu thâu tóm tiềm năng của các tập đoàn công nghệ lớn.