Eric Provencher, người phụ trách developer experience của OpenAI Codex, cho rằng sự xuất hiện của GPT-6 Astra buộc các nhà phát triển phải xem lại cách viết prompt cho coding agent. Theo ông, những chỉ dẫn dài dòng, cấu trúc skill phức tạp hay các quy tắc lặp lại từng hữu ích với mô hình cũ nay có thể làm giảm hiệu quả xử lý.

Ông nói trước đây, để điều khiển mô hình theo đúng ý, người dùng thường phải bổ sung nhiều mô tả và cơ chế hướng dẫn. Tuy nhiên, với các mô hình có hiệu năng cao như GPT-6 Astra, cách tiếp cận đó không còn luôn phát huy tác dụng. Ngược lại, những chỉ dẫn từng hiệu quả có thể trở thành rào cản.

Provencher lấy ví dụ với “skill”: các tệp Markdown chứa hướng dẫn thực hiện một tác vụ cụ thể hoặc cách dùng một plugin nhất định. Theo ông, việc tạo thêm nhiều skill không đồng nghĩa coding agent sẽ hoạt động tốt hơn.

Mỗi skill đều có tên và phần mô tả được đưa vào context của mô hình. Nếu mô tả quá dài hoặc số lượng skill quá nhiều, Codex buộc phải rút ngắn phần mô tả. Khi đó, mô hình sẽ khó xác định nên chọn skill nào cho đúng ngữ cảnh.

Ông cũng lưu ý nguy cơ chồng chéo hoặc xung đột giữa các skill. Khi người dùng thêm quá nhiều mô tả để buộc mô hình ưu tiên một skill nào đó, agent có thể kéo theo cả những chỉ dẫn không liên quan trực tiếp tới tác vụ đang xử lý.

Trong bài viết, Provencher đưa ra ba nguyên tắc khi xây dựng skill. Thứ nhất, phần mô tả cần ngắn gọn và nêu rõ khi nào nên dùng skill đó.

Thứ hai, không nên nhồi toàn bộ nội dung vào một skill. Thay vào đó, skill chỉ nên đóng vai trò chỉ đường để mô hình tìm đến tài liệu phù hợp khi cần. Theo ông, nếu mô hình phải đọc toàn bộ nội dung của skill, phần context còn lại dành cho tác vụ chính sẽ bị thu hẹp.

Thứ ba, không nên viết skill theo kiểu “sổ tay hướng dẫn” quá chi tiết. Provencher cho rằng các mô hình hiện nay đã có khả năng hiểu tốt cả những tình huống chưa được mô tả đầy đủ, nên chỉ dẫn quá cụ thể đôi khi lại phản tác dụng.

Theo Provencher, nguyên tắc này cũng áp dụng với tệp AGENTS.md, nơi chứa hướng dẫn cách AI coding agent làm việc trong một kho mã nguồn. Vì tệp này được áp dụng lặp lại mỗi lần agent làm việc với repository, từng chỉ dẫn trong đó cần được rà soát lại về mức độ cần thiết.

Ông lấy ví dụ, việc yêu cầu agent đọc toàn bộ kho mã chỉ để sửa một lỗi chính tả là quá mức. Với GPT-6 Astra, mô hình có thể tự xác định cần xem những gì ngay cả khi không có các chỉ dẫn như vậy.

Tương tự, những câu lệnh kiểu “hãy chạy test và kiểm tra kết quả” từng rất cần thiết trước đây, nhưng hiện nay mô hình có thể tự thực hiện. Nếu vẫn giữ nguyên các chỉ dẫn đó, cùng một yêu cầu có thể dẫn tới những lần kiểm thử không cần thiết.

Provencher cũng cho rằng cần điều chỉnh lại cách đặt ranh giới quyền hạn cho agent. Trước đây, do từng có trường hợp mô hình tự hành động mà không xin phép, nhiều người đã thêm các chỉ dẫn cứng theo hướng “hãy hỏi trước”. Tuy nhiên, theo ông, GPT-6 Astra có khả năng phán đoán tốt hơn và có thể được giao mức độ chủ động cao hơn.