Claude Opus 5 hay GPT-5.6 Sol cho tác nhân AI

Tổng quan

Với các đội ngũ marketing, RevOps và kỹ thuật B2B, câu hỏi khi cân nhắc giữa Claude Opus 5 và GPT-5.6 Sol không phải là mô hình nào thắng chung cuộc, mà là mô hình nào nên đảm nhận các quy trình suy luận với vấn đề mới, lập trình dạng tác nhân, kỹ thuật phần mềm và các quy trình liên quan đến y tế, cũng như khi nào chi phí đầu ra, kích thước ngữ cảnh hoặc mức độ phù hợp với hạ tầng triển khai nên được đặt nặng hơn lợi thế dẫn đầu benchmark. Bài viết này so sánh benchmark, cửa sổ ngữ cảnh và giá của hai mô hình, sau đó đưa ra bảng định tuyến, kế hoạch đánh giá và danh mục kiểm tra về chi phí và cơ chế kiểm soát; tại Van Data Team, chúng tôi lập bản đồ các nhóm tác vụ, quyền sử dụng công cụ và tiêu chí nghiệm thu trước khi chọn mô hình.

Claude Opus 5 là lựa chọn mạnh hơn cho suy luận với vấn đề mới, lập trình dạng tác nhân và các vòng lặp tự chủ sinh nhiều đầu ra, trong khi GPT-5.6 Sol phù hợp hơn với công việc kỹ thuật phần mềm chuyên sâu và công việc liên quan đến y tế, với nhu cầu cửa sổ ngữ cảnh lớn hơn đôi chút, và với các hệ thống triển khai lấy OpenAI làm trung tâm. Lựa chọn giữa Claude Opus 5 và GPT-5.6 Sol là một bài toán định tuyến, không phải một bảng xếp hạng mô hình mà bên thắng giành trọn tất cả.

Với các đội ngũ marketing, RevOps và kỹ thuật B2B, sai lầm tốn kém là chuẩn hóa trên một mô hình duy nhất quá sớm: về sau phải chuyển đổi chậm chạp và thủ công, đồng thời bỏ lỡ lợi ích từ việc định tuyến từng tác vụ đến mô hình thực sự làm tốt nhất tác vụ đó. Vanaxity, tác nhân nội dung AI cho SEO, GEO và AEO của Van Data Team, minh họa mô hình vận hành này: nghiên cứu, viết, minh họa, xuất bản và phân phối nội dung qua các bước tác nhân có quản trị. Tại Van Data Team, chúng tôi bắt đầu bằng việc lập bản đồ các nhóm tác vụ, dữ liệu đầu vào, quyền sử dụng công cụ, bước duyệt và tiêu chí nghiệm thu. Sau đó chúng tôi mới chọn mô hình.

Anthropic phát hành Claude Opus 5 vào ngày 24/7/2026, còn OpenAI phát hành GPT-5.6 Sol vào ngày 9/7/2026; cả hai đều là những mô hình tiên phong đã phát hành. Hướng dẫn này trình bày các thông số và benchmark so sánh trực tiếp đã được công bố, sau đó bổ sung phân tích production của Vanaxity: ma trận định tuyến, kế hoạch đánh giá, mô hình chi phí và cơ chế kiểm soát. Hãy coi các con số benchmark là giả định ban đầu, và đối chiếu bảng giá cùng các giới hạn hiện hành của từng nhà cung cấp với tài liệu của chính nhà cung cấp đó trước khi cam kết chi tiêu.

Những điểm cốt lõi cần nắm vững

Câu trả lời thực tế là chọn mô hình mặc định theo từng nhóm tác vụ, kiểm thử trên công việc thật và chuyển xuống các mô hình rẻ hơn bất cứ khi nào khả năng suy luận tiên phong không tạo thêm giá trị kinh doanh.

• Bảng so sánh của llm-stats cho biết Claude Opus 5 dẫn đầu 6 trên 8 benchmark chung, với lợi thế được báo cáo rõ nhất ở suy luận với vấn đề mới và lập trình dạng tác nhân.
• Cùng trang đó cho biết GPT-5.6 Sol dẫn đầu 2 trên 8 benchmark chung, gồm kỹ thuật phần mềm chuyên sâu và y tế.
• Trang này liệt kê giá đầu vào ngang nhau và Claude Opus 5 rẻ hơn khoảng 1,2 lần ở đầu ra, điều này quan trọng trong các vòng lặp chỉnh sửa và lập kế hoạch dài.
• Các mô hình thắng benchmark là tuyến khởi đầu. Tỷ lệ đầu ra được chấp nhận, công sức chỉnh sửa, mức độ dùng công cụ thành công, độ trễ và các cơ chế kiểm soát rủi ro mới quyết định mô hình thắng trong production.
• Các tác vụ trích xuất, phân loại, định dạng thường lệ và các phép biến đổi rủi ro thấp khác nên bắt đầu ở một nhóm mô hình rẻ hơn và chỉ chuyển lên mô hình mạnh hơn khi bước xác thực thất bại.

So sánh nhanh Claude Opus 5 và GPT-5.6 Sol

Trang llm-stats được trích dẫn liệt kê cả hai mô hình với ngữ cảnh làm việc lớn và giá đầu vào bằng nhau, đồng thời ghi nhận GPT-5.6 Sol có cửa sổ ngữ cảnh lớn hơn còn Claude Opus 5 có giá token đầu ra thấp hơn.

Con số ngữ cảnh tối đa đo sức chứa, không đo mức độ hiểu. Một cửa sổ lớn hơn không khắc phục được kết quả truy xuất lỗi thời, bản ghi trùng lặp, khả năng xếp hạng tài liệu yếu hay việc thiếu kiểm soát truy cập. Dù dùng mô hình nào, hãy chỉ đưa vào phần ngữ cảnh nhỏ nhất vừa liên quan, vừa cập nhật, vừa được phép sử dụng mà vẫn đủ để hỗ trợ tác vụ.

Chênh lệch giá đầu ra trở nên quan trọng khi tác nhân tạo bản nháp dài, tự phê bình kết quả của chính mình, sửa mã hoặc chuyển những sản phẩm trung gian lớn giữa các bước. Ngay cả khi đó, giá token cũng chỉ là mức giá khởi điểm. Một đầu ra giá thấp nhưng phải sửa đi sửa lại có thể tốn kém hơn một đầu ra giá cao được chấp nhận ngay ở lần duyệt đầu tiên.

Bạn muốn biến bảng so sánh này thành một quy trình vận hành? Xem cách Vanaxity hoạt động trên pipeline dữ liệu, định tuyến tác nhân, tự động hóa quy trình, báo cáo và các bước duyệt của con người.

Nguồn và độ cập nhật của thông số: Các số liệu so sánh ở trên lấy từ trang llm-stats của bên thứ ba. Thông số và giá mô hình thay đổi thường xuyên, vì vậy hãy xác nhận bảng giá, mã định danh mô hình và các giới hạn hiện hành theo tài liệu của từng nhà cung cấp trước khi mua.

Dữ kiện được báo cáo: Benchmark nói gì

Trong bảng so sánh của bên thứ ba được trích dẫn, bằng chứng được báo cáo nghiêng về Claude Opus 5 xét theo độ rộng của các benchmark, trong khi GPT-5.6 Sol thắng ở các hạng mục chuyên biệt được liệt kê, vốn liên quan nhiều nhất đến kỹ thuật phần mềm trên kho mã và công việc liên quan đến y tế.

Trang này cho biết Claude Opus 5 dẫn đầu 6 trên 8 benchmark chung: ARC-AGI-3, AutomationBench, BrowseComp, FrontierCode 1.1, GDPval-AA và OSWorld 2.0. Trang cũng cho biết GPT-5.6 Sol dẫn đầu 2 trên 8 benchmark: DeepSWE 1.1 và HealthBench Professional.

Trong các số liệu được báo cáo đó, ARC-AGI-3 có khoảng cách lớn nhất, khiến Opus 5 trở thành lựa chọn hợp lý để kiểm thử đầu tiên với các vấn đề chưa quen thuộc, việc lập kế hoạch chiến dịch còn mơ hồ và tổng hợp nghiên cứu giữa các ràng buộc mâu thuẫn nhau. Kết quả Frontier-Bench v0.1 được liệt kê cũng ủng hộ hướng định tuyến này khi tác nhân phải viết mã, dùng công cụ, gỡ lỗi và tiếp tục tiến tới mục tiêu.

Trang được trích dẫn cho biết kết quả DeepSWE 1.1 lại nghiêng theo chiều ngược lại: GPT-5.6 Sol đạt 72,7% so với 68,8% của Claude Opus 5, trong khi Claude Fable 5 đạt 69,7%. Kết quả được báo cáo đó khiến Sol trở thành ứng viên cho lần kiểm thử đầu tiên trên kho mã chuyên biệt, nhưng mã nguồn thực tế và bộ kiểm thử vẫn là yếu tố quyết định việc triển khai.

Bảng so sánh trực tiếp của llm-stats mô tả Claude Opus 5 có hiệu năng tốt hơn trên phần lớn các benchmark mà trang này liệt kê.

Benchmark ước tính một năng lực trong một bộ khung kiểm thử (harness) có kiểm soát. Nó không đo các yếu tố của riêng bạn như quyền truy cập CRM, chất lượng truy xuất, gánh nặng duyệt nội dung theo chuẩn thương hiệu, hạ tầng triển khai hay chi phí của một lần xuất bản thất bại. Đừng gộp các kết quả này thành một điểm tổng hợp áp dụng cho mọi trường hợp.

Điểm mạnh, hạn chế và khi nào nên kiểm thử từng mô hình

Hãy kiểm thử Claude Opus 5 trước cho việc lập kế hoạch trong tình huống mơ hồ, lập trình dạng tác nhân và các vòng lặp sinh nhiều đầu ra; hãy kiểm thử GPT-5.6 Sol trước cho kỹ thuật chuyên sâu, tác vụ liên quan đến y tế, áp lực về ngữ cảnh và mức độ phù hợp với hệ sinh thái OpenAI.

Khi nào nên chọn hoặc kiểm thử Claude Opus 5

Hãy dùng mô hình claude-opus-5 khi tác nhân phải suy luận qua những ràng buộc chưa quen thuộc, lập kế hoạch một chiến dịch nhiều bước, viết hoặc sửa các quy trình tự động hóa, hay duy trì các vòng lặp phê bình và chỉnh sửa kéo dài. Xu hướng kết quả benchmark được báo cáo của mô hình này khớp với kiểu công việc mở, khi lộ trình chưa được biết trước.

Mức giá đầu ra thấp hơn mà trang này liệt kê cũng sẽ khiến mô hình hấp dẫn với các hệ thống nội dung tạo ra khối lượng lớn bản nháp, phương án thay thế, bản vá mã hoặc ghi chú duyệt. Hạn chế, cũng theo chính danh sách của bên thứ ba đó, rõ ràng không kém: GPT-5.6 Sol dẫn đầu các hạng mục kỹ thuật chuyên sâu và y tế được báo cáo, và trang này ghi nhận Sol có cửa sổ ngữ cảnh lớn hơn. Opus không nên được giao những tuyến này chỉ vì sự ưa chuộng thương hiệu.

Khi nào nên chọn hoặc kiểm thử GPT-5.6 Sol

Hãy dùng GPT-5.6 Sol khi công việc kỹ thuật ở cấp kho mã chiếm phần lớn tác vụ, khi quy trình liên quan đến y tế, hoặc khi việc tương thích với một hệ thống OpenAI đã triển khai sẵn giúp giảm bớt trở ngại về tích hợp và quản trị. Lợi thế ngữ cảnh được liệt kê cũng khiến mô hình này trở thành ứng viên hợp lý khi tài liệu nguồn liên quan vẫn còn lớn bất thường sau khi đã truy xuất và lọc.

Hạn chế được liệt kê của mô hình là giá đầu ra cao hơn và kết quả được báo cáo yếu hơn ở suy luận với vấn đề mới và lập trình dạng tác nhân. Thế mạnh được báo cáo ở mảng liên quan đến y tế không đồng nghĩa với việc được phép tự động hóa các quyết định hệ trọng. Hãy yêu cầu nguồn có thẩm quyền, người duyệt đủ chuyên môn và một điểm phê duyệt bắt buộc trước khi xuất bản hoặc hành động.

Phân tích của Vanaxity: Xây dựng chính sách định tuyến

Nếu tình trạng cung cấp chính thức và các đặc điểm được trích dẫn được xác nhận, chính sách production đúng đắn sẽ gửi mỗi tác vụ đến mô hình có chi phí thấp nhất vượt qua được các bước nghiệm thu của tác vụ đó, rồi chỉ chuyển lên mô hình mạnh hơn khi độ khó, mức độ bất định hoặc rủi ro đòi hỏi.

Mỗi tuyến ban đầu ở trên là một chính sách có thể kiểm thử, không phải cam kết vĩnh viễn với một nhà cung cấp. Hãy bổ sung một mô hình chuyển cấp, một nhà cung cấp dự phòng và một lộ trình xử lý thủ công cho mỗi quy trình trọng yếu với hoạt động kinh doanh. Giữ giao diện định tuyến độc lập với LangGraph, LangChain, CrewAI, cơ chế gọi hàm gốc (native function calling) hay mẫu Plan-and-Execute để có thể thay mô hình mà không phải xây dựng lại hoạt động vận hành.

Tình huống tổng hợp: Maya, trưởng nhóm RevOps, có một tác nhân đang chẩn đoán một quy trình phân bổ khách hàng tiềm năng (lead routing) bị lỗi trong CRM. Tác nhân phải kiểm tra log, xác định các quy tắc kinh doanh còn mơ hồ, vá mã biến đổi dữ liệu và chuẩn bị một thay đổi có thể đem ra duyệt. Theo chính sách này, Opus 5 là tuyến khởi đầu cho việc chẩn đoán và sửa lỗi; một nhóm mô hình rẻ hơn chuẩn hóa log; các bài kiểm thử xác thực bản vá; và một người phê duyệt thao tác ghi vào CRM. Nếu Sol thắng trên bộ kiểm thử nghiệm thu cho kho mã của Maya, chính sách sẽ thay đổi. Bằng chứng có trọng lượng hơn giả định ban đầu từ benchmark.

Đánh giá cả hai mô hình trên chính công việc của bạn

Kết quả benchmark có thể thu hẹp danh sách ứng viên, nhưng một bộ khung kiểm thử nội bộ mang tính đại diện mới là thứ quyết định tuyến nào được đưa vào production.

Hãy xây dựng bộ khung kiểm thử từ prompt, tài liệu, công cụ, chính sách và các kiểu lỗi thực tế. Đưa vào việc lập kế hoạch chiến dịch, tổng hợp nghiên cứu, làm giàu dữ liệu CRM, duyệt nội dung, sửa mã và chuẩn bị xuất bản nếu hoạt động của bạn có những tác vụ đó.

Với mỗi nhóm tác vụ:

• Xác định thế nào là kết quả được chấp nhận trước khi chạy bất kỳ mô hình nào.
• Giữ cố định prompt, ngữ cảnh, công cụ, quy tắc dừng và quy trình duyệt.
• Đo độ chính xác về dữ kiện, mức độ hoàn thành tác vụ với công cụ, tính hợp lệ của schema, mức tuân thủ chính sách, độ trễ, số lần thử lại và công sức chỉnh sửa của con người.
• Ghi lại đầy đủ vết thực thi (trace), bao gồm truy xuất, tham số gọi công cụ, lỗi, thay đổi tuyến và quyết định của người duyệt.
• Tách lỗi của mô hình khỏi các lỗi do dữ liệu lỗi thời, chỉ dẫn không rõ ràng, schema công cụ bị hỏng, thiếu quyền truy cập và khiếm khuyết trong điều phối.
• Chạy lại bộ khung kiểm thử sau mỗi thay đổi về mô hình, prompt, công cụ, chính sách hoặc pipeline dữ liệu.

Đơn vị kinh tế không phải là chi phí trên mỗi token. Đó là chi phí trên mỗi kết quả được chấp nhận:

Chi phí trên mỗi kết quả được chấp nhận = (mức sử dụng mô hình + các lần thử lại + chi phí công cụ + hạ tầng + công duyệt của con người + xử lý lỗi) / số đầu ra được chấp nhận

Hãy ghi nhận công việc bị từ chối như một khoản chi phí, không phải những thử nghiệm vô hình. Đo độ trễ đầu cuối thay vì tốc độ riêng lẻ của mô hình. Tính cả thời gian người duyệt bỏ ra để sửa các nhận định, khôi phục các hành động thất bại và quyết định xem một đầu ra có thể phát hành hay chưa.

Tình huống tổng hợp: Arun điều hành một hoạt động sản xuất nội dung dạng dài. Trang niêm yết ghi Opus 5 có giá đầu ra thấp hơn, nhưng Arun không định tuyến chỉ dựa vào con số đó. Bộ khung kiểm thử của anh chấm điểm cách sử dụng nguồn, độ chính xác về dữ kiện, mức độ phù hợp với thương hiệu, mức sẵn sàng về schema, thời gian chỉnh sửa và mức độ được chấp nhận để xuất bản. Việc định dạng thường lệ được chuyển sang nhóm mô hình rẻ hơn, còn tuyến mô hình tiên phong đã kiểm chứng xử lý các mâu thuẫn trong nghiên cứu và khâu tổng hợp cuối cùng. Chính sách chiến thắng là chính sách tạo ra nội dung được chấp nhận, sẵn sàng làm câu trả lời, với tổng lãng phí ít nhất.

Vanaxity áp dụng cùng kỷ luật này cho tìm kiếm đa kênh, nơi nội dung phải xếp hạng trên Google và đủ rõ ràng để các công cụ trả lời trích dẫn. Các đội ngũ có thể so sánh Vanaxity với cách vận hành SEO thủ công qua cùng lăng kính: đầu ra được chấp nhận, gánh nặng duyệt, tốc độ xuất bản và quản trị.

Bạn cần một kế hoạch đánh giá cụ thể? Đợt rà soát quy trình có phạm vi xác định của Van Data Team cung cấp bản đồ tác vụ, đề cương bộ khung đánh giá, ma trận quyền sử dụng công cụ, đánh giá khoảng trống của dashboard, kế hoạch cơ chế kiểm soát và phạm vi triển khai. Bạn có thể xem quy trình tác nhân vận hành thực tế trước khi quyết định tự động hóa những gì.

Kiến trúc production và cơ chế kiểm soát

Các tác nhân tự chủ đáng tin cậy cần có cơ chế điều phối, công cụ bị giới hạn, dữ liệu đáng tin cậy, khả năng quan sát và các lộ trình khôi phục bao quanh mô hình được chọn.

Điều phối và khả năng chuyển đổi mô hình

Hãy dùng cơ chế gọi hàm gốc cho các quy trình ngắn và có phạm vi giới hạn. Dùng Plan-and-Execute khi việc có các giai đoạn lập kế hoạch và thực thi tách bạch giúp kiểm soát tốt hơn. LangChain và CrewAI có thể giúp triển khai nhanh các mẫu tác nhân phổ biến, trong khi tài liệu tổng quan chính thức của LangGraph định vị LangGraph cho các quy trình chạy dài, có trạng thái, với khả năng thực thi bền vững và cơ chế kiểm soát có con người kiểm duyệt.

Dù chọn framework nào, hãy tách bộ định tuyến mô hình ra sau một giao diện ổn định. Bộ điều phối nên truyền vào nhóm tác vụ, mức rủi ro, ngân sách ngữ cảnh, các công cụ được phép và quy tắc nghiệm thu. Bộ định tuyến nên trả về lựa chọn mô hình, phương án dự phòng và chính sách duyệt.

Ranh giới công cụ và MCP

Tài liệu Model Context Protocol mô tả MCP là một tiêu chuẩn để kết nối ứng dụng AI với dữ liệu, công cụ và quy trình bên ngoài. Truy cập được chuẩn hóa không có nghĩa là truy cập không giới hạn.

Hãy dùng schema công cụ hẹp, thông tin xác thực theo nguyên tắc đặc quyền tối thiểu, xác thực tham số, và tách thao tác đọc khỏi thao tác ghi hoặc xuất bản. Ghi log các yêu cầu, phản hồi, lỗi và phê duyệt. Thiết kế các thao tác ghi ra bên ngoài có tính lũy đẳng (idempotent) khi có thể, và yêu cầu con người phê duyệt đối với các hành động hướng tới khách hàng, liên quan đến tài chính, liên quan đến y tế, mang tính phá hủy hoặc không thể đảo ngược.

Pipeline dữ liệu là một phần của chất lượng mô hình

Tác nhân thừa hưởng chất lượng của các hệ thống mà chúng đọc và ghi. Lịch chạy Airflow, các phép biến đổi dbt, luồng Kafka, kho dữ liệu và cơ sở dữ liệu vận hành cần có dòng dõi dữ liệu (lineage) minh bạch, kiểm tra độ cập nhật, người chịu trách nhiệm, kiểm soát truy cập và cam kết mức dịch vụ.

Một cửa sổ ngữ cảnh lớn hơn không thể cứu vãn dữ liệu doanh thu lỗi thời hay bản ghi khách hàng trùng lặp. Bộ nhớ đệm ngữ cảnh (context caching) có thể giảm công việc lặp lại khi nhà cung cấp và khối lượng công việc hỗ trợ, nhưng chỉ nên lưu đệm các thành phần ổn định và được phép sử dụng. Hãy loại bỏ ngữ cảnh lỗi thời, trùng lặp và không liên quan trước khi trả tiền cho một mô hình tiên phong xử lý chúng.

Danh mục kiểm tra cơ chế kiểm soát cho production

• Xác thực độ cập nhật của nguồn, quyền truy cập và phạm vi tác vụ trước khi thực thi.
• Bắt buộc kiểm tra cấu trúc của đầu ra và tham số công cụ trước khi dùng ở các bước sau.
• Giới hạn số lần thử lại, ngân sách token và các vòng lặp tự phê bình luẩn quẩn.
• Đặt các hành động hệ trọng sau bước duyệt của một người có thẩm quyền.
• Truy vết phiên bản mô hình, prompt, công cụ, nguồn dữ liệu và chính sách.
• Đưa lên dashboard tỷ lệ đầu ra được chấp nhận, tổng chi phí, độ trễ, công sức duyệt và các lần ghi đè tuyến.
• Duy trì nhà cung cấp dự phòng, khả năng khôi phục từ điểm lưu (checkpoint), quy trình hoàn tác và một lộ trình vận hành thủ công.
• Đánh giá lại các tuyến khi kiểu lỗi hoặc yêu cầu kinh doanh thay đổi.

Tình huống tổng hợp: Priya, một quản lý kỹ thuật, thấy một tác nhân xuất bản tạo ra nội dung trau chuốt từ một bảng đã lỗi thời trong kho dữ liệu. Mô hình đã làm đúng những gì prompt yêu cầu; chính pipeline đã cung cấp bằng chứng lỗi thời. Cách khắc phục của cô nằm ở lineage, kiểm tra độ cập nhật và bước duyệt xuất bản, chứ không nằm ở một cửa sổ ngữ cảnh lớn hơn hay một mô hình mạnh hơn. Sự phân biệt đó giúp các đội ngũ tránh phải trả giá của mô hình tiên phong để che đậy món nợ kỹ thuật về dữ liệu.

Cách Van Data Team đưa giải pháp vào vận hành thực tế

Bảng so sánh trực tiếp đã được xác nhận giữa Claude Opus 5 và GPT-5.6 Sol trở nên hữu ích khi được chuyển thành một chính sách định tuyến. Tại Van Data Team, chúng tôi xem việc so sánh này như một quy trình vận hành. Chúng tôi lập bản đồ các bước bàn giao hiện tại, từ bản brief chiến dịch hoặc sự kiện kích hoạt RevOps, qua các hệ thống nguồn, quyết định của tác nhân, lệnh gọi công cụ, bước duyệt, dashboard cho đến các lộ trình khôi phục.

Kế hoạch triển khai thu được sẽ phân công:

• Claude Opus 5 cho các vòng lặp suy luận với vấn đề mới, lập trình dạng tác nhân và sinh nhiều đầu ra, khi thế mạnh của mô hình giúp cải thiện kết quả được chấp nhận.
• GPT-5.6 Sol cho các khối lượng công việc kỹ thuật phần mềm chuyên sâu, liên quan đến y tế, cần ngữ cảnh lớn hơn một chút hoặc gắn với hệ sinh thái OpenAI.
• Các nhóm mô hình rẻ hơn cho trích xuất, phân loại và định dạng, kèm cơ chế chuyển lên mô hình mạnh hơn khi xác thực thất bại.
• Phê duyệt của con người trước khi tác nhân xuất bản, thay đổi bản ghi CRM hoặc ngân sách, triển khai mã hay chạm vào dữ liệu nhạy cảm.

Chính sách này có thể chạy qua LangGraph, LangChain, CrewAI, cơ chế gọi hàm gốc hoặc Plan-and-Execute, với quyền công cụ và quyền MCP cùng bộ nhớ đệm prompt hoặc ngữ cảnh được cấu hình theo từng tuyến.

Trước khi đưa vào production, chúng tôi chạy lại các tác vụ mang tính đại diện qua một bộ khung đánh giá duy nhất. Chúng tôi theo dõi tỷ lệ chấp nhận, mức độ dùng công cụ thành công, công sức chỉnh sửa, độ trễ và chi phí trên mỗi kết quả được chấp nhận, chứ không chỉ giá token. Dashboard cũng hiển thị chất lượng dữ liệu, lineage, độ cập nhật và SLA của pipeline trên các nguồn đầu vào Airflow, dbt, Kafka và kho dữ liệu. Một runbook hướng dẫn người vận hành khi nào cần thử lại, định tuyến lại, hoàn tác hoặc chuyển cấp.

Ngân sách vận hành

Dữ kiện được báo cáo: llm-stats liệt kê giá đầu vào giống nhau là 5,00 USD cho mỗi triệu token, còn giá đầu ra là 25,00 USD với Claude Opus 5 và 30,00 USD với GPT-5.6 Sol. Opus 5 dẫn đầu sáu trên tám benchmark chung, đặc biệt ở suy luận với vấn đề mới và lập trình dạng tác nhân; Sol dẫn đầu DeepSWE 1.1 và HealthBench Professional. Các số liệu này tạo nên giả định ban đầu cho việc định tuyến, chứ không phải ngân sách production.

Phân tích của Vanaxity: đơn vị hữu ích là chi phí trên mỗi kết quả quy trình được phê duyệt:

(mức sử dụng mô hình + các lần thử lại + thời gian của người duyệt + chi phí khôi phục) ÷ số đầu ra được phê duyệt

Trước khi triển khai, hãy chạy các tác vụ marketing, RevOps và kỹ thuật mang tính đại diện qua từng mô hình ứng viên và ghi lại:

• Chi tiêu cho token đầu vào, đầu ra và token lưu đệm so với một ngân sách token có giới hạn cứng
• Độ trễ trung vị và độ trễ đuôi (tail latency) của toàn bộ quy trình có sử dụng công cụ
• Tỷ lệ được chấp nhận ngay lần đầu, tỷ lệ thử lại, tỷ lệ chuyển cấp và tỷ lệ lỗi không thể khôi phục
• Số phút người duyệt cần để phê duyệt hoặc sửa từng kết quả
• Cách hệ thống khôi phục sau các lỗi về công cụ, MCP, dữ liệu hoặc xác thực
• Điểm đánh giá theo các tiêu chí chất lượng và an toàn riêng của từng tác vụ

Một token rẻ hơn có thể trở nên đắt đỏ sau nhiều lần chỉnh sửa hoặc sửa thủ công. Ngược lại, giá đầu ra thấp hơn của Opus 5 có thể cộng dồn thành lợi thế qua các vòng lặp tự chủ dài, trong khi Sol có thể mang lại hiệu quả kinh tế tốt hơn ở những nơi thế mạnh chuyên biệt của nó giúp tăng tỷ lệ được chấp nhận ngay lần đầu. Hãy định tuyến công việc thường lệ sang các nhóm mô hình rẻ hơn và chỉ chuyển lên khi kết quả đánh giá chứng minh khoản chi cho mô hình tiên phong là xứng đáng.

Câu hỏi thường gặp

Nguồn tham khảo