Khi AI tạo sinh trở thành công cụ chủ lực trong hoạt động lập trình, một số doanh nghiệp có nhu cầu sử dụng lớn đang tự phát triển công cụ AI hỗ trợ lập trình cho nội bộ nhằm cắt giảm chi phí và tối ưu hiệu quả vận hành.

Theo The Information, Coinbase, Shopify và Ramp đã xây dựng các tác nhân AI riêng để cung cấp cho nhân viên, như một lựa chọn thay thế cho những công cụ thương mại có chi phí cao từ OpenAI hay Anthropic.

Coinbase, sàn giao dịch tiền số lớn nhất Mỹ, cho biết đã phát triển tác nhân AI hỗ trợ lập trình mang tên Forge từ tháng 4 và triển khai cho toàn bộ đội ngũ kỹ sư.

Các kỹ sư có thể sử dụng Forge thông qua Slack, GitHub và giao diện web nội bộ. Công cụ này hỗ trợ lên ý tưởng cho tính năng phần mềm hoặc sản phẩm mới, đồng thời tham gia trực tiếp vào quá trình phát triển. Forge cũng có thể làm việc với kho mã của Coinbase và các hệ thống phần mềm doanh nghiệp như Datadog và Sentry.

Mục tiêu của Coinbase khi phát triển Forge là giảm chi phí AI. Thông qua bộ định tuyến mô hình do công ty tự xây dựng, Forge có thể linh hoạt chọn nhiều mô hình khác nhau tùy theo nhu cầu, bao gồm Anthropic, Google và các mô hình mã nguồn mở.

The Information dẫn lời Chintan Turakhia, Giám đốc cấp cao phụ trách kỹ thuật tại Coinbase, cho biết mức sử dụng Forge đang tăng nhanh và đã giúp công ty tiết kiệm chi phí. “Có thời điểm chúng tôi gần như không đặt giới hạn cho chi phí AI, nên chi tiêu tăng mạnh. Hiện nay, dù lượng token sử dụng vẫn tiếp tục đi lên, tổng chi phí lại giảm”, ông nói.

Brian Armstrong, CEO Coinbase, hồi tháng 6 cũng chia sẻ trên mạng xã hội X rằng công ty gần như đã cắt một nửa chi phí AI trong khi mức tiêu thụ token vẫn tăng.

Theo Coinbase, trọng tâm hiện nay không phải là siết mức sử dụng mà là cải thiện cấu hình mô hình mặc định, cơ chế điều phối mô hình và bộ nhớ đệm. Công ty đang thử nghiệm sử dụng các mô hình open-weight như GLM 5.2 và Kimi 2.7 làm lựa chọn mặc định tại cổng LLM, thay vì hạ trần sử dụng.

Coinbase cũng xây dựng hệ thống tự động phân bổ yêu cầu sang mô hình phù hợp nhất sau khi phân tích prompt, đồng thời cân nhắc trạng thái bộ nhớ đệm và chi phí của từng mô hình. Armstrong cho biết những tác vụ lập kế hoạch phức tạp cần mô hình hiệu năng cao, trong khi các tác vụ thực thi đơn giản có thể dùng mô hình rẻ hơn. Theo ông, mục tiêu cuối cùng là để AI tự động hóa việc lựa chọn mô hình.

Công ty cũng thúc đẩy cách tiếp cận trong đó mọi yêu cầu đều được thiết kế để tận dụng bộ nhớ đệm tối đa, qua đó tái sử dụng dữ liệu đã có. Bộ nhớ đệm là nơi lưu tạm prompt và câu trả lời đã được xử lý; khi gặp yêu cầu giống hoặc gần giống, hệ thống có thể dùng lại kết quả sẵn có thay vì phải tính toán lại.

Dù phát triển Forge, Coinbase vẫn tiếp tục sử dụng các công cụ AI hỗ trợ lập trình từ bên ngoài như Claude Code của Anthropic. Trong nhóm 2.500 kỹ sư của Coinbase, Claude Code hiện vẫn là công cụ được dùng nhiều nhất.

Shopify, nền tảng giải pháp thương mại điện tử, cũng đã phát triển tác nhân AI hỗ trợ lập trình mang tên River bên cạnh việc sử dụng Claude Code và OpenAI Codex. Theo ban lãnh đạo công ty, đến tháng 5, khoảng 75% nhân viên Shopify đã sử dụng River. The Information dẫn lời lãnh đạo doanh nghiệp cho biết River có hiệu quả sử dụng token cao, cho phép xử lý nhiều tác vụ lập trình hơn với chi phí thấp hơn.

Ramp, startup fintech cung cấp thẻ doanh nghiệp cùng giải pháp quản lý chi tiêu và tài chính, cũng phát triển công cụ AI hỗ trợ lập trình riêng mang tên Inspect.

Theo The New Stack, Inspect được tích hợp với Datadog, Sentry, LaunchDarkly và Buildkite, đồng thời không phụ thuộc vào một mô hình duy nhất. Công cụ này hỗ trợ nhiều mô hình tiên tiến, đi kèm máy chủ MCP, các công cụ tùy biến và quy trình làm việc riêng.

Tuy vậy, tự phát triển AI không phải lúc nào cũng giúp doanh nghiệp tiết kiệm chi phí, thậm chí có thể cho kết quả ngược lại. Bloomberg cho biết Walmart trong tháng 6 đã hạn chế sử dụng nội bộ sau khi mức dùng tác nhân lập trình tự phát triển của hãng, Code Puppy, tăng vọt.

The New Stack cho biết các tác nhân AI hỗ trợ lập trình do doanh nghiệp tự xây thường được kết nối với hệ thống nội bộ và xử lý những quy trình kỹ thuật bất đồng bộ, trong đó việc xác thực thay đổi dựa trên dữ liệu telemetry từ môi trường sản xuất.

Dù vậy, các trợ lý AI thương mại vẫn chiếm ưu thế trong những phiên phát triển mang tính tương tác, nơi lập trình viên làm việc trực tiếp trên trình soạn thảo hoặc terminal. Theo The New Stack, điểm then chốt không nằm ở việc doanh nghiệp tự phát triển hay sử dụng dịch vụ bên ngoài, mà là liệu họ có nắm được lớp điều phối nằm giữa lập trình viên và mô hình nền tảng hay không.