stack tác nhân
tác nhân được thiết kế để thực hiện hầu hết mọi loại công việc, từ trả lời phiếu hỗ trợ đến viết mã. Cho dù khối lượng công việc phức tạp đến đâu, chạy trong bao lâu hay mất bao nhiêu lượt để hoàn thành, mọi tổng đài viên đều cần có ba khả năng cốt lõi để vận hành:
tác nhân cần kết nối với các mô hình và định tuyến giữa chúng
Tổng đài viên cần chạy quy trình công việc qua nhiều bước
tác nhân cần kết nối với các hệ thống giúp chúng trở nên hữu ích và nền tảng mà mọi người sử dụng để tương tác với chúng
Việc triển khai các khả năng này để xây dựng một tác nhân hoàn chỉnh buộc các nhà phát triển phải lựa chọn giữa việc khóa nhà cung cấp với một API nhà cung cấp duy nhất, kết hợp các giải pháp lại với nhau hoặc tự xây dựng các bản tóm tắt.
stack tác nhân cung cấp cho bạn tất cả các khối xây dựng mà bạn cần để tạo và vận chuyển các tác nhân cấp sản xuất.
Kết nối với các mô hình
tác nhân không chạy trên một mô hình duy nhất. Mỗi nhiệm vụ có chi phí, độ trễ và sự cân bằng năng lực khác nhau và lệnh gọi phù hợp tùy thuộc vào việc nhân viên đang làm. Nó cần một giao diện để tiếp cận bất kỳ ai trong số họ, một cách định tuyến giữa chúng và một cách truyền ngược lại cho người dùng.
AI SDK cung cấp cho tác nhân một giao diện để gọi bất kỳ mô hình nào và AI Gateway định tuyến trên hàng trăm mô hình đó từ một điểm cuối duy nhất.
SDK AI
Mỗi phòng thí nghiệm đều hiển thị lệnh gọi mô hình thông qua API riêng của họ. Truyền trực tuyến, gọi công cụ, đầu ra có cấu trúc và hình dạng của yêu cầu đều khác nhau, vì vậy mỗi nhà cung cấp mà bạn hỗ trợ đều bổ sung thêm một tiện ích tích hợp khác để xây dựng và duy trì.
AI SDK là một giao diện duy nhất để xây dựng các ứng dụng, tác nhân và khung AI. Đó là nền tảng, khung và mô hình bất khả tri, đồng thời cho phép bạn tạo văn bản, hình ảnh, lời nói, video, v.v.
1import { generateText } from 'ai';2const { text } = đang chờ generateText({3 model: 'anthropic/claude-sonnet-4.6',4 nhắc: 'Tóm tắt các triển khai mới nhất.',5});6console.log(text);Chuyển đổi mô hình bằng cách thay đổi một chuỗi chứ không phải mã của bạn.
AI Gateway
Mã thông báo hiện là một phần phụ thuộc vào sản xuất, cách thức cung cấp băng thông cho web và các tác nhân sử dụng các mô hình khác nhau cho mỗi tác vụ. Tích hợp giữa các phòng thí nghiệm có nghĩa là các khóa và thanh toán riêng biệt từ các nhà cung cấp đắt tiền, có giới hạn về tỷ lệ và luôn thay đổi.
AI Gateway là CDN dành cho mã thông báo, định tuyến chúng trên mạng toàn cầu mà chúng tôi đã vận hành trong hơn một thập kỷ. Nó định tuyến từng cuộc gọi thông qua một điểm cuối duy nhất, chuyển đổi dự phòng khi nhà cung cấp ngừng hoạt động và theo dõi chi phí cũng như mức sử dụng trên tất cả các cuộc gọi đó. Bạn trả theo giá của nhà cung cấp mà không cần tăng giá và bạn có thể sử dụng chìa khóa của riêng mình.
"Điều cuối cùng chúng tôi muốn là xây dựng lại cơ sở hạ tầng của mình mỗi khi có một mô hình mới bị loại bỏ. Điều cuối cùng mà chúng tôi muốn là xây dựng lại cơ sở hạ tầng của mình mỗi khi có một mô hình mới bị loại bỏ. Điều cuối cùng mà chúng tôi muốn là xây dựng lại cơ sở hạ tầng của mình mỗi khi có một mô hình mới bị loại bỏ. "Greg Chan CTO
NGƯỜI hầu. chạy ba mô hình từ một khóa duy nhất, gửi phân tích thị trường cho Claude, bản sao tiếp thị tới GPT và tạo hình ảnh cho Gemini.