GitHub bổ sung nút chỉnh mức suy luận cho cloud agent của Copilot ngày 03/08.
Giờ bạn chọn agent suy nghĩ tới đâu. Đó là một thiết lập với hai tác động kéo ngược nhau: suy luận cao thì tốn hơn và lâu hơn, suy luận thấp thì rẻ và bỏ sót.
Cùng một ý tưởng Cursor đã ra trong tháng 7
Router của Cursor, phát hành ngày 22/07, định tuyến từng yêu cầu tới mô hình phù hợp theo chi phí và độ khó. Gói Ấn Độ ₹649 của Cursor, ngày 28/07, ghi rõ giới hạn ở "mức nỗ lực trung bình cố định".
Mức nỗ lực suy luận đã trở thành một nút điều khiển hạng nhất trong cả mảng chỉ trong khoảng sáu tuần. Đó là dấu hiệu ngành đã chấp nhận rằng suy luận tối đa cho mọi yêu cầu vừa không kham nổi vừa không cần thiết.
Đặt thế nào cho đúng
Một quy tắc thô nhưng đứng vững trong thực tế:
- Thấp cho việc máy móc — đổi tên, định dạng, tìm-thay hàng loạt, nâng phiên bản thư viện
- Trung bình làm mặc định cho việc phát triển tính năng thông thường, tức phần lớn công việc của agent
- Cao cho mọi thứ mà sai là tốn kém: migration, xác thực, thanh toán, xoá dữ liệu, xử lý đồng thời
Vì sao thời điểm này quan trọng
OpenAI giảm giá GPT-5.6 Luna tám mươi phần trăm ngày 30/07. Suy luận rẻ cộng với một núm chỉnh nỗ lực nghĩa là bài toán kinh tế của việc chạy agent đã đổi hai lần trong năm ngày.
Nếu bạn tính chi phí cloud agent trước cuối tháng 7 thì con số đó đã cũ.