Trong sáu tuần, mức nỗ lực suy luận đi từ một chi tiết hiện thực thành một nút bạn được kỳ vọng phải tự đặt.
Cursor ra Router ngày 22/07 để định tuyến theo chi phí và độ khó, giới hạn gói Ấn Độ ₹649 ở mức nỗ lực trung bình cố định ngày 28/07, và GitHub thêm mức suy luận cho cloud agent của Copilot ngày 03/08.
Thiết lập này đánh đổi cái gì
Nỗ lực cao nghĩa là tiêu nhiều token hơn để suy luận trước khi trả lời. Điều đó mua được khả năng xử lý tốt hơn với những bài toán mà đáp án phụ thuộc vào việc giữ nhiều ràng buộc trong đầu cùng lúc.
Nó tốn tiền và tốn thời gian chờ. Với tác vụ mà đáp án đã hiển nhiên, phần suy luận thêm chẳng thay đổi gì và bạn vẫn trả tiền cho nó.
Một quy tắc đứng vững
- Thấp — biến đổi máy móc: đổi tên, định dạng, nâng phiên bản thư viện, tìm-thay hàng loạt, code khuôn mẫu
- Trung bình — việc phát triển tính năng thông thường, tức phần lớn những gì agent được giao
- Cao — migration, xác thực, thanh toán, xử lý đồng thời, xoá dữ liệu, mọi thứ mà một đáp án sai sẽ rất tốn kém khi phát hiện muộn
Sai lầm gần như ai cũng mắc lần đầu
Đặt mức cao ở mọi nơi. Nghe như lựa chọn an toàn nhưng không phải — bạn trả giá cao ở mọi tác vụ vặt, phản hồi chậm tới mức người ta bỏ dùng agent, và mức tăng chất lượng ở việc đơn giản gần như bằng không.
Sai lầm ngược lại hiếm hơn nhưng tệ hơn: để tất cả ở mức thấp cho tiết kiệm, rồi merge một migration không ai kiểm.
Bài toán kinh tế đã đổi dưới chân bạn
OpenAI giảm giá GPT-5.6 Luna tám mươi phần trăm ngày 30/07. Suy luận rẻ hơn khiến mức nỗ lực cao dễ kham hơn so với một tháng trước, nghĩa là mức mặc định hợp lý có thể đã dịch lên.
Hãy tính lại con số của chính bạn thay vì kế thừa một quy tắc ngón tay cái từ tháng 6.