Chi phí thật của tác nhân AI qua câu chuyện Meta và Anthropic

Tổng quan

Tóm tắt điều hành: Các cuộc thảo luận sơ bộ về điện toán của Meta Anthropic rất quan trọng đối với các nhóm tiếp thị và RevOps bởi vì, trong phân tích của Vanaxity, chúng cho thấy chi phí, công suất và độ tin cậy của điện toán đã lặng lẽ giới hạn các tác nhân luôn hoạt động, điều tiết thông lượng, làm chậm các chiến dịch và bỏ lỡ quy trình, và tại sao chi phí cho mỗi nhiệm vụ thành công, chứ không phải giá chỗ ngồi hoặc giá token, lại là con số mà các nhà khai thác nên quản lý.

Báo cáo về các cuộc đàm phán ban đầu về điện toán Meta Anthropic về một thỏa thuận được đề xuất trị giá lên tới 10 tỷ USD, cả hai công ty đều từ chối bình luận và có thể không hoàn tất, gây ra một vấn đề cụ thể cho các nhóm tiếp thị và RevOps: các tác nhân luôn hoạt động có thể vượt quá ngân sách hoặc trì hoãn các chiến dịch khi tính toán tốn kém hoặc không khả dụng. Bài viết này giải thích cách đo lường chi phí cho mỗi nhiệm vụ thành công, định tuyến khối lượng công việc, đặt cổng chất lượng và dự phòng cũng như hạn chế rủi ro của nhà cung cấp, phản ánh cách tiếp cận dựa trên kết quả, được quản lý của Van Data Team đối với các hoạt động của tác nhân.

CNBC đưa tin rằng Meta Platforms và phòng thí nghiệm AI biên giới Anthropic đang sớm đàm phán sơ bộ. Quartz báo cáo rằng thỏa thuận được đề xuất có thể trị giá lên tới 10 tỷ đô la trong khoảng hai năm, với việc Anthropic trả góp hàng tháng cho Meta. Đối với các nhà lãnh đạo tiếp thị và RevOps, các cuộc đàm phán về máy tính Meta Anthropic đã phơi bày một sự thật khó khăn hơn: một tác nhân tự trị không thể chạy các chiến dịch, định tuyến khách hàng tiềm năng hoặc xuất bản nội dung hữu ích khi không có máy tính giá cả phải chăng.

Không có gì được ký, đóng hoặc xác nhận. CNBC báo cáo rằng cả hai công ty đều từ chối bình luận; không có thỏa thuận nào được công bố. Sự khác biệt đó tách biệt tin tức với phân tích của Vanaxity. Xem cách tác nhân nội dung tự trị của Vanaxity biến nghiên cứu, viết, minh họa, xuất bản và cung cấp thành quy trình làm việc được quản lý cho SEO, GEO và AEO.

Kỷ nguyên liên kết xanh đã chết như một chiến lược hiển thị hoàn chỉnh. Các thương hiệu cũng cần nội dung mà AI Overviews, ChatGPT, Gemini và các công cụ trả lời có thể hiểu và trích dẫn. Hướng dẫn này chỉ ra cách định giá công việc liên tục đó, định tuyến nó một cách hiệu quả, bảo vệ thông lượng và giảm rủi ro cơ sở hạ tầng.

Những điểm chính

Bài học thực tế là giá trị tác nhân đến từ các kết quả đáng tin cậy, được chấp nhận thay vì quyền truy cập thô vào một mô hình.

• Sự sắp xếp Meta-Anthropic được đề xuất vẫn còn sơ bộ và có thể không hoàn tất.
• Các tác nhân liên tục gây ra mối lo ngại về chi phí điện toán, công suất và độ tin cậy khi vận hành cho các nhóm tiếp thị.
• Chi phí cho mỗi nhiệm vụ thành công bao gồm số lần thử lại, công cụ, đánh giá và cách khắc phục mà giá chỗ hoặc token bỏ lỡ.
• Phân đợt, định tuyến mô hình dựa trên nhiệm vụ, cổng chất lượng sớm, số lần thử có giới hạn và thông lượng bảo vệ leo thang của con người.
• Điều phối di động và các tuyến dự phòng đã được thử nghiệm giúp giảm rủi ro về khả năng và khóa nhà cung cấp.

Những cuộc nói chuyện về tính toán siêu nhân loại thực sự nói lên điều gì

Meta và Anthropic được cho là đang thảo luận về một thỏa thuận cung cấp máy tính linh hoạt, nhưng chưa có thỏa thuận nào được ký kết hoặc xác nhận.

Bảng 1. Chi tiết về cuộc nói chuyện điện toán của Meta Anthropic và các điểm chưa được giải quyết.

Nếu nó đóng cửa, thỏa thuận này có thể đánh dấu sự ra mắt của Meta với tư cách là nhà cung cấp điện toán hoặc đám mây bên ngoài. Theo báo cáo của CNBC về kế hoạch chi tiêu vốn lên tới 145 tỷ USD vào năm 2026 của Meta và nhận xét về hoạt động kinh doanh trên nền tảng đám mây vào tháng 5 năm 2026 của Zuckerberg, Meta đã xem xét cách chi tiêu cho cơ sở hạ tầng của mình có thể tạo ra doanh thu ngoài hoạt động của chính mình.

Động lực được báo cáo là sự hợp tác. Meta có thể bán năng lực xử lý thô cho Anthropic mặc dù Anthropic cạnh tranh với các mẫu Llama của Meta. Việc đóng khung của CNBC rất quan trọng vì nó tách quyền sở hữu mô hình khỏi quyền kiểm soát cơ sở hạ tầng cần thiết để chạy các mô hình đó.

tiêu đề của CNBC nắm bắt được tình hình mà không hề phóng đại:

"Anthropic đang đàm phán sớm với Meta để có được sức mạnh tính toán."

Báo cáo cũng cho biết Anthropic đã hạn chế sử dụng các mô hình tiên tiến vì nó không đủ khả năng để chạy chúng mà không bị hạn chế. Đó là bối cảnh được báo cáo chứ không phải xác nhận độc lập của Vanaxity. Suy luận vận hành sau đây là của chúng tôi: khi các phòng thí nghiệm hàng đầu đối mặt với áp lực về năng lực, người mua không nên coi suy luận như một tiện ích không giới hạn.

Tại sao các tác nhân luôn hoạt động lại thay đổi phương trình tính toán

Các tác nhân luôn hoạt động biến việc tính toán từ chi phí của nhà cung cấp nền thành giới hạn trực tiếp về thông lượng chiến dịch.

Chatbot chờ một người đặt câu hỏi. Một tác nhân tiếp thị tự trị có thể theo dõi các tín hiệu, thu thập bằng chứng, chọn lộ trình, gọi công cụ, tạo nội dung, xác thực kết quả, thử lại lỗi, yêu cầu phê duyệt, xuất bản và cập nhật báo cáo. Mọi chi nhánh đều tiêu tốn tài nguyên và mọi thất bại đều có thể khiến bạn phải làm việc nhiều hơn.

Phân tích Vanaxity: Đơn vị kinh tế phù hợp không phải là một chỗ ngồi hay một cuộc gọi mô hình biệt lập. Đó là một kết quả kinh doanh được chấp nhận.

Chi phí cho mỗi nhiệm vụ thành công = tổng chi phí khối lượng công việc / nhiệm vụ được cổng chất lượng xác định chấp nhận

Tổng chi phí khối lượng công việc bao gồm suy luận, gọi công cụ, điều phối, lưu trữ, truy xuất, giám sát, thử lại, đánh giá của con người và khắc phục. Một nhiệm vụ chỉ được coi là thành công khi nó đạt đến trạng thái đã được thống nhất. Một bản nháp được tạo không vượt qua các cuộc kiểm tra tìm nguồn cung ứng, thương hiệu, kỹ thuật hoặc xuất bản là công việc đang được tiến hành chứ không mang lại giá trị.

Bảng 2. Các thước đo chi phí tác nhân và những hạn chế của chúng.

Tại Van Data Team, chúng tôi bắt đầu bằng việc xác định ranh giới chấp nhận. Đối với nhiệm vụ sản xuất SEO, điều đó có thể có nghĩa là các xác nhận quyền sở hữu được hỗ trợ, mục đích tìm kiếm chính xác, yêu cầu trên trang, tuân thủ thương hiệu, hình minh họa có thể sử dụng và chuyển giao xuất bản hợp lệ. GEO và AEO thêm các câu trả lời có thể trích xuất, ghi công rõ ràng, dữ liệu có cấu trúc và các đoạn văn sẵn sàng trích dẫn.

Hãy xem xét quy trình làm việc SEO tổng hợp. Một tuyến đường chi phí thấp tạo ra một bản dự thảo một cách nhanh chóng, nhưng những tuyên bố không được hỗ trợ của nó không được coi là cơ sở thực tế. Tác nhân thử lại, gọi thêm công cụ và gửi bản nháp cho người chỉnh sửa. Một tuyến đường mạnh hơn sẽ tốn nhiều chi phí hơn cho mỗi cuộc gọi nhưng sẽ xóa cùng một cổng với ít lần làm lại hơn. Mẫu rẻ hơn sẽ không rẻ hơn nếu chi phí cho mỗi mặt hàng được chấp nhận cao hơn.

Đây là lý do tại sao việc so sánh quy trình làm việc của tác nhân với SEO thủ công nên tập trung vào các kết quả đầu ra đã hoàn thành và được phê duyệt. Hiệu quả của token vẫn còn quan trọng, nhưng chỉ trong hệ thống đo lường dựa trên kết quả.

Khối lượng công việc thiết kế xoay quanh năng lực, chi phí và rủi ro

Hình minh họa sau đây tóm tắt từ hàng đợi tác nhân đến kết quả được chấp nhận:

Hình 1. Phân lô, định tuyến, cổng chất lượng và đường dẫn lỗi giới hạn nhận biết năng lực giúp các tác nhân tiếp thị duy trì thông lượng trong khi đo lường chi phí so với kết quả được chấp nhận.

Một hệ thống tác nhân có khả năng phục hồi sẽ sắp xếp các công việc có khả năng chịu độ trễ, sắp xếp các nhiệm vụ theo độ khó, xác thực sớm, giới hạn số lần thử lại và tăng mức độ không chắc chắn trước khi đến tay khách hàng hoặc hệ thống hồ sơ.

Kiến trúc triển khai phải tách biệt chính sách quy trình làm việc khỏi nhà cung cấp mô hình. Hãy coi nó như một hàng đợi có cổng rõ ràng chứ không phải một chuỗi lời nhắc giả định rằng mọi phần phụ thuộc sẽ vẫn có sẵn.

Bảng 3. Các giai đoạn, cổng và đường dẫn lỗi của quy trình làm việc của tác nhân.

Công việc hàng loạt có thể chờ

Nghiên cứu thường xuyên, phân cụm từ khóa, chuẩn bị nội dung, báo cáo định kỳ và QA nội dung không khẩn cấp là những ứng cử viên tự nhiên. Việc tạo khối giúp giảm công việc thiết lập lặp đi lặp lại và duy trì dung lượng thời gian thực khan hiếm cho các tín hiệu có giá trị giảm nhanh chóng.

Tác nhân định tuyến khách hàng tiềm năng thì khác. Nó có thể cần phải hoạt động khi hoạt động gửi đến đủ điều kiện xuất hiện. Dự trữ khả năng đáp ứng cho đường dẫn đó, xác thực các trường CRM bắt buộc trước khi suy luận và gửi thông tin không chắc chắn cho người đánh giá thay vì để tác nhân thử lại vô thời hạn.

Lộ trình theo độ khó và hậu quả

Sử dụng lộ trình có chi phí thấp hơn để phân loại, trích xuất, chuẩn hóa và các tác vụ bị giới hạn khác vượt qua các bước kiểm tra xác định. Nâng cao nghiên cứu mơ hồ, các quyết định chiến lược, bản sao hướng tới khách hàng hoặc công việc liên tục thất bại sang một tuyến đường mạnh mẽ hơn hoặc con người.

Định tuyến mô hình phải dựa trên bằng chứng. Duy trì một bộ đánh giá cho từng lớp nhiệm vụ, áp dụng cùng một cổng chấp nhận cho mọi tuyến đường và giữ lại tùy chọn chi phí thấp nhất đáp ứng chất lượng yêu cầu một cách đáng tin cậy. Đừng sử dụng tuyến đường cao cấp ở mọi nơi chỉ vì việc mua sắm đơn giản hơn.

Đặt cổng trước khi thi công hạ nguồn tốn kém

Xác thực đầu vào, quyền, trường bắt buộc, tính khả dụng của nguồn và lược đồ đầu ra trước khi tạo. Sau khi tạo, hãy kiểm tra các xác nhận quyền sở hữu và yêu cầu về thương hiệu trước khi đưa vào vận hành các minh họa, xây dựng lược đồ, xuất bản hoặc cung cấp.

Điều này quan trọng đối với Vanaxity vì nội dung tìm kiếm phục vụ nhiều bề mặt. Một trang có thể được xuất bản về mặt kỹ thuật nhưng vẫn thất bại nếu nó thiếu câu trả lời trực tiếp cho AEO, bằng chứng về GEO hoặc cấu trúc trên trang cho SEO. Cổng ngăn chặn giai đoạn yếu kém nhân lên chi phí trên mọi kênh sau này.

Giới hạn số lần thử lại và biến lỗi thành hữu ích

Mọi chính sách thử lại đều cần có điều kiện dừng, dự phòng và bản ghi về lần thất bại gần đây nhất. Khi chính sách đã hết, hãy trì hoãn nhiệm vụ, chuyển sang lộ trình đã được phê duyệt hoặc chuyển lên cấp cao hơn với tài liệu nguồn và bối cảnh lỗi được đính kèm.

Tác nhân giám sát chiến dịch phải duy trì các cảnh báo nhạy cảm về doanh thu trong thời gian chịu áp lực về năng lực và hoãn việc tạo báo cáo có mức độ ưu tiên thấp. Đó là sự xuống cấp nhẹ nhàng: hệ thống bảo vệ công việc có giá trị thay vì thất bại một cách khó lường.

Bạn muốn kiểm tra áp lực quy trình làm việc trước khi mở rộng quy mô? Xem hoạt động của tác nhân tự trị, sau đó yêu cầu đánh giá trong phạm vi để ánh xạ các lớp nhiệm vụ, cổng chất lượng, đường dẫn dự phòng, khoảng trống trong báo cáo và trình tự triển khai cho nhóm của bạn.

Biến độ tin cậy và tính di động thành một phần của ROI của tác nhân

ROI của tác nhân phụ thuộc vào việc liệu công việc có kết thúc đúng thời hạn hay không, vượt qua đánh giá và có thể di chuyển khi nhà cung cấp bị hạn chế.

Chỉ riêng hóa đơn API không thể cho biết hoạt động có tốt hay không. Các nhà lãnh đạo tiếp thị và RevOps cần có khả năng quan sát khối lượng công việc để kết nối hành vi cơ sở hạ tầng với kết quả kinh doanh được chấp nhận.

Bản nhạc:

• Thông lượng tác vụ được chấp nhận và tuổi hàng đợi
• Độ trễ hoàn thành theo loại nhiệm vụ
• Hành vi thử lại và nguyên nhân lỗi lặp lại
• Chi phí trên mỗi kết quả được chấp nhận
• Việc sử dụng ngân sách token theo yêu cầu chất lượng của nhiệm vụ
• Từ chối cổng chất lượng và khắc phục
• Gánh nặng leo thang và đánh giá của con người
• Lỗi công cụ, sử dụng dự phòng và công việc bị trì hoãn

Những tín hiệu này giải thích tại sao thông lượng thay đổi. Hàng đợi ngày càng tăng có thể phản ánh nhu cầu, giới hạn của nhà cung cấp, công cụ bị hỏng, đánh giá chặt chẽ hơn hoặc người đánh giá quá tải. Mua model mạnh hơn cũng không khắc phục được hết những nguyên nhân đó.

Thiết kế xuống cấp nhẹ nhàng trước khi dung lượng biến mất

Phân loại nhiệm vụ theo mức độ khẩn cấp, tác động kinh doanh, khả năng đảo ngược và nhu cầu xem xét. Khi năng lực cao cấp bị thắt chặt, hãy duy trì các hoạt động có giá trị cao và trì hoãn công việc có mức độ ưu tiên thấp hơn. tác nhân nội dung có thể giữ bản nháp thường xanh; không nên âm thầm công bố một tuyên bố không được hỗ trợ. Tác nhân RevOps có thể trì hoãn việc làm giàu thông thường; nó sẽ bảo vệ việc chuyển giao nhạy cảm với thời gian.

Việc khôi phục lỗi phải rõ ràng. Người vận hành cần biết những gì đã dừng, những gì đã hoàn thành, dự phòng nào đã chạy và những gì phải được xem xét trước khi tiếp tục. Thành công một phần thầm lặng rất nguy hiểm vì bảng thông tin có thể hiển thị hoạt động trong khi kết quả kinh doanh thực tế vẫn chưa đầy đủ.

Giảm bớt tình trạng khóa nhà cung cấp trước khi việc mua sắm trở thành trường hợp khẩn cấp

Khóa nhà cung cấp không chỉ đơn thuần là vấn đề hợp đồng. Nó xuất hiện khi các lời nhắc, liên kết công cụ, nhật ký, đánh giá và định dạng đầu ra dành riêng cho nhà cung cấp đến mức quy trình công việc không thể di chuyển.

Duy trì khả năng điều phối linh hoạt với các lược đồ tác vụ ổn định, bộ điều hợp nhà cung cấp, nhật ký chuẩn, dữ liệu có thể xuất và bộ đánh giá có thể kiểm tra lộ trình thay thế so với cổng sản xuất. Kiểm tra giải pháp thay thế đó trước khi ngừng hoạt động hoặc hạn chế hạn ngạch. Một bản sao lưu không thể tạo ra kết quả có thể chấp nhận được chỉ là một sơ đồ.

Khi các nhà cung cấp và phòng thí nghiệm cạnh tranh để có cùng dung lượng GPU, chất lượng mô hình của nhà cung cấp không đảm bảo thông lượng sẵn có. Đánh giá các nhà cung cấp là đối tác cơ sở hạ tầng. Hỏi cách phân bổ dung lượng, cách hoạt động của các cụm và giới hạn tốc độ, khu vực nào được hỗ trợ, cách xử lý dữ liệu, cách thông báo các thay đổi về mô hình, khả năng quan sát được hiển thị và cách xuất dữ liệu quy trình công việc của bạn. Hãy coi giá cả và độ trễ là những tiêu chí được đo lường chứ không phải những lời hứa hẹn vĩnh viễn.

Sai lầm mà chúng tôi thấy là việc chọn một mô hình trước tiên và thiết kế quy trình vận hành xung quanh các đặc điểm riêng của nó. Bắt đầu với hợp đồng nhiệm vụ, cổng chấp nhận và đường dẫn khôi phục. Sau đó cắm tuyến đường hoạt động tốt nhất. Để biết thêm hướng dẫn dành cho người vận hành, hãy khám phá Thông tin chi tiết về nội dung và tìm kiếm AI của Vanaxity.

Trước khi mở rộng tác nhân, hãy xác nhận rằng:

• Thành công được định nghĩa bằng thuật ngữ kinh doanh.
• Toàn bộ chi phí được ghi lại.
• Nhiệm vụ được phân loại theo mức độ khẩn cấp, độ phức tạp và hậu quả.
• Công việc có khả năng chịu độ trễ được phân theo đợt.
• Các tuyến đường được kiểm tra dựa trên cùng một đánh giá.
• Các giai đoạn tốn kém nằm sau quá trình xác thực sớm.
• Việc thử lại dừng lại và tạo ra bối cảnh lỗi hữu ích.
• Đánh giá của con người bảo vệ các hành động có tác động cao.
• Tình trạng hàng đợi và thông lượng được chấp nhận được hiển thị.
• Các tuyến dự phòng vượt qua cổng sản xuất thực.
• Việc điều phối, nhật ký và dữ liệu có thể di chuyển giữa các nhà cung cấp.

Nhóm Van Data thực hiện hoạt động này như thế nào

Các cuộc đàm phán về điện toán Meta Anthropic được báo cáo,một đề xuất ban đầu trị giá lên tới 10 tỷ USD trong khoảng hai năm, cho thấy tại sao điện toán lại nằm trong kế hoạch hoạt động của các tác nhân tiếp thị tự chủ. Cả hai công ty đều từ chối bình luận và các cuộc thảo luận có thể không mang lại thỏa thuận. Báo cáo là tín hiệu; những khuyến nghị dưới đây là phân tích của Vanaxity.

Tại Van Data Team, chúng tôi bắt đầu bằng việc lập bản đồ chuyển giao hiện tại: hệ thống nguồn, tín hiệu kích hoạt, quyết định, cổng xem xét, bảng điều khiển và đường dẫn khôi phục. Sau đó, chúng tôi xác định phạm vi tín hiệu nào cần thu thập, khoảng trống nào trong quy trình làm việc cần thu hẹp và hành động nào có thể chạy tự động thay vì cần có sự phê duyệt của con người.

Chỉ số cốt lõi là chi phí cho mỗi nhiệm vụ thành công: toàn bộ chi phí của lệnh gọi mô hình, công cụ, số lần thử lại, đánh giá và khắc phục chia cho kết quả được chấp nhận. Điều này cho thấy các tác nhân có vẻ rẻ tiền trên mỗi token nhưng lại tiêu tốn công suất do lỗi lặp đi lặp lại.

Chúng tôi bảo vệ thông lượng bằng cách phân nhóm công việc không khẩn cấp, định tuyến các nhiệm vụ thường lệ tới các mô hình nhẹ hơn, dành các mô hình mạnh hơn cho các quyết định phức tạp hoặc có rủi ro cao, dừng các kết quả đầu ra yếu ở cổng chất lượng sớm, giới hạn số lần thử lại và tăng cường ngoại lệ cho mọi người. Trang tổng quan kết nối mức chi tiêu và độ trễ với công việc đã hoàn thành, được phê duyệt, không phải hoạt động thô.

Cuối cùng, khả năng điều phối di động, lời nhắc, tiêu chí đánh giá và giao diện dữ liệu sẽ hạn chế việc khóa nhà cung cấp. Các tuyến dự phòng đã được thử nghiệm và sổ ghi chép sự cố về công suất giúp giảm nguy cơ các giới hạn, giá cả hoặc tình trạng sẵn có của một nhà cung cấp âm thầm ngăn cản các chiến dịch.

Câu hỏi thường gặp

Nguồn tham khảo