Vercel AI SDK

Thunderbit を streamText / generateText エージェント用の TypeScript Tool としてラップ

Vercel AI SDK の tool() ヘルパーは、任意の TypeScript 関数を LLM が呼び出せるものに変えます。/distill をラップすれば、モデルは会話の途中でライブの Web ページを読めます。

インストール

npm install ai @ai-sdk/openai zod

Tool を定義

import { tool } from 'ai';
import { z } from 'zod';

const API = 'https://openapi.thunderbit.com/openapi/v1';
const H = { Authorization: `Bearer ${process.env.THUNDERBIT_API_KEY}` };

export const readUrl = tool({
  description:
    'Fetch a URL and return clean Markdown. Use for any web research task: docs, articles, product pages.',
  parameters: z.object({
    url: z.string().url(),
    renderMode: z.enum(['basic', 'advanced']).default('basic'),
  }),
  execute: async ({ url, renderMode }) => {
    const res = await fetch(`${API}/distill`, {
      method: 'POST',
      headers: { ...H, 'Content-Type': 'application/json' },
      body: JSON.stringify({ url, renderMode }),
    });
    const json = await res.json();
    return json.data.markdown;
  },
});

`streamText` で使う

import { openai } from '@ai-sdk/openai';
import { streamText } from 'ai';

const result = streamText({
  model: openai('gpt-4o'),
  tools: { readUrl },
  maxSteps: 5,
  prompt: 'Summarize the latest post on https://vercel.com/blog',
});

for await (const chunk of result.textStream) process.stdout.write(chunk);

ヒント

execute から返す前に Markdown を ~8k トークンに制限 —— コンテキストの肥大化を防止
複数 URL のファンアウトには、/batch/distill を裏に持つ 2 つ目の readUrls Tool を公開
renderMode: 'advanced' は JS 重めのページに限定 —— basic は 3-5 倍安い

Vercel AI SDK

インストール

Tool を定義

`streamText` で使う

ヒント

関連

目次

Vercel AI SDK

インストール

Tool を定義

streamText で使う

ヒント

関連

目次

`streamText` で使う