集成
Vercel AI SDK
把 Thunderbit 包成 TypeScript Tool,给 streamText / generateText agent 用
Vercel AI SDK 的 tool() 工具能把任意 TypeScript 函数变成 LLM 可调用的能力。包一下 /distill,模型在对话中途就能实时读网页。
安装
npm install ai @ai-sdk/openai zod定义 Tool
import { tool } from 'ai';
import { z } from 'zod';
const API = 'https://openapi.thunderbit.com/openapi/v1';
const H = { Authorization: `Bearer ${process.env.THUNDERBIT_API_KEY}` };
export const readUrl = tool({
description:
'Fetch a URL and return clean Markdown. Use for any web research task: docs, articles, product pages.',
parameters: z.object({
url: z.string().url(),
renderMode: z.enum(['basic', 'advanced']).default('basic'),
}),
execute: async ({ url, renderMode }) => {
const res = await fetch(`${API}/distill`, {
method: 'POST',
headers: { ...H, 'Content-Type': 'application/json' },
body: JSON.stringify({ url, renderMode }),
});
const json = await res.json();
return json.data.markdown;
},
});配合 streamText 使用
import { openai } from '@ai-sdk/openai';
import { streamText } from 'ai';
const result = streamText({
model: openai('gpt-4o'),
tools: { readUrl },
maxSteps: 5,
prompt: 'Summarize the latest post on https://vercel.com/blog',
});
for await (const chunk of result.textStream) process.stdout.write(chunk);小贴士
- 在
executereturn 之前把 Markdown 截到 ~8k token —— 防止 context 爆炸 - 多 URL 并发场景,再暴露一个
readUrlsTool,底层走/batch/distill - 只有页面是 JS 重渲染的才用
renderMode: 'advanced'——basic便宜 3-5 倍