私がよく耳にするプロキシ利用者の悩みは、だいたい同じです。プロバイダーを選んで、ローテーションも設定したのに、リクエストの半分がCAPTCHAや空白ページで返ってくる。ダッシュボード上では「成功率 99.9%」と出ているのに、実際の集計はまるで別物です。
いま起きていることはこうです。プロキシサーバー市場は2026年に約19億米ドル規模 で、2031年には26億米ドルに達すると見込まれています。つまり、プロキシ基盤には本当に大きなお金が動いているわけです。ただし、ベンダーの宣伝文句と実運用の現実には、かなり大きなギャップがあります。私は独立したベンチマーク、コミュニティ報告、アンチボットの技術資料をかなり掘り下げて、成功率を本当に押し上げる要因を検証してきました。このガイドは、その結果をまとめたものです。理論でも、ベンダーの誇張でもなく、現場で使える実践的な手引きです。
「プロキシ成功率」とは何か(そして、なぜ多くの数値が当てにならないのか)
プロキシ成功率とは、ひとことで言えば、リクエストのうち有効で使えるデータが返ってきた割合です。HTTP 200が返っただけではありません。単に「プロキシが接続できた」だけでもありません。実際に使えるコンテンツが返ってきたかどうかです。
「成功」には少なくとも4つの段階があり、この違いは多くの人が思っている以上に重要です。
- 通信成功: プロキシが接続され、何らかの応答が返った
- HTTP成功: 対象がエラーではないステータスコード(200、301など)を返した
- コンテンツ成功: レスポンス本文に期待したデータが含まれている。CAPTCHAページでも、ソフトブロックでも、空の枠だけでもない
- ビジネス成功: 下流のパイプラインや分析で使えるだけの完全なデータが取れている
成功率 99.9% や 99.86% といったプロバイダーの主張は、たいてい最初の2段階を指しています。しかも、低負荷・少数並列・制御された経路という、かなり楽な条件で測られていることが多いです。Proxywayの測定方法 は比較的誠実で、対象に到達して応答を返したリクエストを成功と定義しつつ、応答時間や安定性も追跡しています。ただ、それでも返ってきた本文が本物の商品ページなのか、Cloudflareのチャレンジなのかまでは分かりません。
実際の数値は、プロキシの種類、対象サイトのアンチボットの強さ、リクエスト量、セッション管理、デジタルフィンガープリントの一貫性など、さまざまな要素で決まります。成功率は固定値ではなく、あくまでレンジとして考えるべきです。固定の数字を売りにしてくる相手は、たいてい幻想を売っています。
対象サイト別に見る、現実的なプロキシ成功率の目安
競合記事をいろいろ読んできましたが、どれもプロキシの種類や成功率を抽象的にしか語っていません。サイトカテゴリごとの想定レンジを出しているものは、ほぼありません。そこで、ここに他では見ない表を用意しました。
読む前に、いくつか注意点があります。これは設計用の目安であって、ラボ認証済みの保証値ではありません。TLS、ヘッダー、User-Agent が一致しているなど、基本的なフィンガープリント衛生が保たれていて、リクエスト間隔も無理のない範囲であることを前提にしています。実際の数値は、あなたの構成、ボリューム、そして対象サイトの現在のアンチボット状況によって変わります。
| 対象サイトのカテゴリ | データセンタープロキシ | ISPプロキシ | 住宅プロキシ | モバイルプロキシ |
|---|---|---|---|---|
| シンプルなディレクトリ / クラシファイド | 85–98% | 90–99% | 90–99% | 90–99% |
| 一般的なECサイト(商品ページ) | 50–85% | 75–95% | 80–97% | 85–98% |
| 検索エンジン(Google、Bing) | 30–70% | 60–90% | 70–95% | 75–95% |
| 旅行 / チケット / マーケットプレイス | 20–60% | 50–85% | 60–90% | 70–95% |
| SNS / ログイン必須のフロー | 10–50% | 40–80% | 50–85% | 60–90% |
| 強固に保護されたサイト(Akamai、Cloudflare、HUMAN) | 10–60% | 40–80% | 50–90% | 60–92% |
範囲が重なっていること、そして「安い」タイプのプロキシが予想以上にうまくいくことがある点に注目してください。つまり、プロキシの種類だけでは結果は決まりません。Redditの報告では、curl-impersonate を使ったデータセンタープロキシが、中規模のCloudflare保護ECサイトで約91%の成功率を出した一方、住宅プロキシをデフォルトの Python requests ヘッダーで使った場合は60%程度にとどまった、という例もあります。IPの信頼性より、フィンガープリント品質のほうが上回ることがあるのです。
ECサイトとSNSでブロック率が違うのはなぜか
なぜこんな差が出るのでしょうか。理由は、サイトのカテゴリごとに採用しているアンチボットの層が根本的に違うからです。
ECサイトやマーケットプレイス は、レート制限、IP評判スコアリング、行動分析、WAF保護を組み合わせることが多いです。価格、在庫、競合調査に直接影響するため、Akamai Bot Manager、DataDome、Cloudflare などがよく使われます。防御は本物ですが、主に大量アクセスやパターン検知を重視しています。人間らしい速度で普通に閲覧しているように見えれば、住宅プロキシやISPプロキシはかなり有効です。
SNSやログイン中心のプラットフォーム は、別の意味で難易度が高いです。アカウント履歴、端末IDのグラフ、セッション継続の期待値、高度な行動モデルがあるからです。公開商品ページでは問題なく動くプロキシでも、ログイン、スクロール、アカウント切り替えの場面では失敗することがあります。HUMANの Bot Defender は多数のデータシグナルを処理し、行動フィンガープリントを生成します。IPは、その入力の1つにすぎません。
クラシファイド、地域ディレクトリ、シンプルな公開ページ は、一般的に最も簡単です。悪用の経済性が低く、防御も比較的シンプルで、ボット検知への投資も少なめです。レート制限を守れば、データセンタープロキシでも十分通ることがあります。
DataDome の検知ガイド が示しているように、実際のボット検知は多層構造です。フィンガープリント、行動分析、IP評判、機械学習、端末認証を組み合わせて使います。ひとつの手法で全部のボットを捕まえることはできませんし、ひとつのプロキシ種類で全部を突破することもできません。
データスクレイピングの仕組みを学ぶ Get Started Free
高い成功率を出すための、正しいプロキシタイプの選び方
プロキシ予算を無駄にしてしまう最大の原因は、対象に合わない種類を選んでしまうことです。Instagram向けの手法が本当に合っているかも確認せずに、データセンター帯域を何百ドル分も消費してしまうチームを見てきました。シンプルな判断フレームワークがあれば、こうした失敗は防げます。
プロキシ選定フローチャート
次の質問を順番にたどってください。
1. 何をスクレイピングするのか?
- 公開データ(EC商品一覧、検索結果、ディレクトリ) → 次の質問へ
- 認証済みセッション(SNS、SaaSダッシュボード、ログイン後フロー) → sticky session と高信頼IPが必要。ISPまたはモバイルプロキシへ
2. 対象サイトのアンチボット強度はどの程度か?
- 低い(基本的なレート制限のみ、JSチャレンジなし) → データセンタープロキシで可。まずはテスト
- 中程度(CloudflareのJSチャレンジ、そこそこのフィンガープリント検知) → 住宅またはISPプロキシ。フィンガープリント構成が重要
- 高い(Akamai、PerimeterX/HUMAN、DataDome) → 住宅またはモバイルプロキシに加え、完全なフィンガープリントと行動レイヤーが必要
3. sticky session が必要か、stateless なローテーションで足りるか?
- Stateless(各リクエストが独立) → リクエストごとのローテーション
- Stateful(ログイン、複数ステップのナビゲーション、カート操作) → ISPまたは専用住宅IPで sticky session
4. リクエスト量はどれくらいか?
- 1日1,000件未満 → 対象が強固に保護されていなければ、ほぼどの種類でも可。まずは安価なものから
- 1日1,000〜100,000件 → 保護対象には住宅またはISPプロキシ。成功1件あたりのコストを監視
- 1日100,000件超 → プロバイダー側のプール多様性、ASNローテーション、そしておそらく複数種類の併用が必要
プロキシタイプをざっくり比較すると、次のようになります。
| プロキシ種類 | 速度 | コスト | 信頼性 | 向いている用途 | 成功パターン |
|---|---|---|---|---|---|
| データセンター | 高い | 低い(約 $0.50–2/IP/月) | 低〜中 | シンプルな公開ページ、SEOチェック、高頻度・低防御の取得 | 簡単な対象には強いが、防御があると弱い |
| 住宅 | 中 | 中〜高(約 5.88ドル–7ドル/GB) | 高い | EC、公開データ、地域指定スクレイピング | フィンガープリントと速度制御が整っていれば強い |
| ISP / 静的住宅 | 高い | 中(約 2.70–3.33ドル/IP) | 中〜高 | 長時間セッション、アカウント操作、安定したID維持 | sticky flow に強く、IP変更が少ない |
| モバイル | 低〜中 | 高い(約 3.50–7.50ドル/GB) | 非常に高い | SNS / モバイル対象、広告検証、BANに敏感な処理 | 信頼性は高いが、高価で無敵ではない |
ローテーションと sticky session:最重要のトレードオフ
リクエストごとのローテーション は、毎回新しいIPを割り当てます。商品ページ、検索結果、ディレクトリ一覧のような stateless なスクレイピングに最適です。負荷を分散し、1つのIPに注目が集まりすぎるのを防げます。
sticky session は、一定時間同じIPを維持します。Oxylabs によると、住宅プロキシの sticky session は最長24時間維持できる 場合があります。ログイン、複数ステップの遷移、セッション継続が求められる場面では必須です。
注意すべき失敗パターンは sticky session drift です。基盤となる住宅回線が落ちる、プロバイダーが出口IPを静かに切り替える、対象サイトがセッションを無効化する、などのケースがあります。Reddit や BlackHatWorld のコミュニティ報告でも、プロバイダーの説明と一致しない sticky session の不安定さが繰り返し話題になっています。
実践ルールはこうです。stateless な処理にはローテーション、stateful な処理には sticky session を使う。そして、セッションのIDが本当に安定しているかを常に監視することです。
共有プロキシと専用プロキシ:何が違うのか
共有プロキシは、複数の顧客が同じプールを使うため安価です。低リスク・低防御の用途には十分使えます。ただし問題は、評判を引き継いでしまうことです。自分が必要な対象サイトですでに焼かれたIPが混ざっている可能性があります。
専用プロキシは高くつきますが、よりクリーンな評判とコントロール性が手に入ります。高リスクの対象、長期キャンペーン、アカウントワークフローなど、IPが焼けるとアカウント停止に直結する用途ではこちらを使うべきです。BlackHatWorld のスレッド でも、非常に安い「無制限」住宅プールは小規模で使い回されすぎていて、複数サイトで「使い潰されている」と繰り返し警告されています。
考えるべきなのは 実効コスト です。最初は3倍高く見える専用IPでも、有効応答率が2倍になり、再試行の無駄が消えるなら、総合的には安くつくことがあります。
IPローテーションだけでは足りない:2026年版 アンチ検知対策チェックリスト
IPローテーションだけで戦うのは、もう古いです。はっきり言っておきます。現代のアンチボットシステムは、IPアドレス以外にも何十ものシグナルを見ています。しかも、ほとんどのプロキシ解説記事はこの点を無視しています。IP層だけ直しても、スタックの他の部分が弱点になります。
2026年版の完全チェックリストは次の通りです。
1. TLS / JA3 / JA4 フィンガープリントの整合
Cloudflare の資料 では、JA3 と JA4 のフィンガープリントが、TLSクライアントの接続開始パターンによって識別されると説明されています。ブラウザ、ボット、HTTPライブラリはそれぞれ異なるハンドシェイクを生成します。User-Agent に「Chrome 125」と書いてあるのに、TLSハンドシェイクが Python requests や Go の標準HTTPクライアントのように見えたら、ページが表示される前に自動化だと判断されても不思議ではありません。
2. HTTP/2 の設定とヘッダー順序
HTTP/2 には、設定フレーム、WINDOW_UPDATE の挙動、擬似ヘッダーの順序、優先度処理など、識別可能なシグナルがあります。Scrapfly の2026年版ガイド によると、Cloudflare、Akamai、DataDome などのアンチボットは、プロトコルフィンガープリントとTLSフィンガープリントを多層で組み合わせています。ヘッダーの値だけでは不十分で、ヘッダーの順序も重要です。
3. User-Agent ↔ OS ↔ TCPスタックの整合性
ブラウザの人格は、内部的に一貫していなければなりません。AndroidのUser-Agentなのに、デスクトップ向けのビューポート、macOSのフォント、米国英語ロケール、UbuntuっぽいTCPスタック、そしてドイツの住宅IPが混ざっていたら、それは普通のユーザーではありません。かなり分かりやすい危険信号です。Oxylabs はIPバージョンやOS/プラットフォームのフィルタリング を明示的にサポートしており、より自然な通信パターンを作りやすくしています。
4. Canvas / WebGL フィンガープリントのばらつき
ブラウザフィンガープリントは、canvas の描画、WebGL のパラメータ、フォント、AudioContext、CPUコア数にまで及びます。これらのシグナルは、「同じユーザー」からのリクエストであれば、一貫した端末IDとして見えるべきです。
5. DNSリークの防止
ローカルDNSではなく、プロキシ経由でリモートDNS解決を行ってください。DNSリークがあると、実際の所在地やインフラが漏れ、プロキシ構成全体の意味が薄れます。
6. リクエストのタイミングと行動シグナル
一定間隔のリクエストは、すぐに見抜かれます。実ユーザーのタイミングはもっと不規則です。波のような集中、待ち時間、スクロール、再訪が混ざります。Fingerprint.com の2026年版ボット検知概要 でも、マウス移動、スクロール挙動、リクエスト率、遷移パターンを監視していることが確認されています。ジッター付きのランダム遅延を入れましょう。ありえない地理移動も避けてください(2秒でニューヨークからロサンゼルスに移動するのは物理的に不可能です)。
7. JavaScriptレンダリングとヘッドレスブラウザのシグナル
対象がJavaScriptの挙動を前提にしているなら、実ブラウザか、しっかり設定されたヘッドレス環境が必要です。Puppeteer Extra Stealth は navigator.webdriver のような露骨な自動化シグナルを隠しますが、Browserless は stealth プラグインだけではネットワーク層やインフラ層のシグナルをすべて隠せないと警告しています。DataDome の分析 でも、検知と回避のいたちごっこが続いていることが示されています。
8. Cookie とセッション状態の管理
複数ステップのフローでは、Cookie とセッション状態を保持してください。「ユーザー」がCookieなしで来訪し、Cookieを受け入れ、次のリクエストではまたCookieなし、という挙動なら、明らかに自動化です。
本質はここです。IP層だけ直してフィンガープリントを無視する人ほど、「しばらく問題なく動いていたスクレイパーが、ある日突然壊れた」と言うことになります。対象サイトがIPブロックを強化したのではなく、フィンガープリントチェックを厳しくしただけかもしれません。
プロキシで高い成功率を出すためのステップバイステップガイド
- 難易度: 中級
- 必要時間: 初期設定は約30〜60分、以後は継続監視
- 必要なもの: 対象URLリスト、プロキシプロバイダーのアカウント(トライアルでも可)、HTTPクライアントまたはヘッドレスブラウザ、ログ基盤
Step 1: トラフィックプロファイルを定義する
プロキシのダッシュボードを見る前に、まず自分が何をしているのかを文書化してください。Zyte のトラフィックプロファイルの考え方 はとても参考になります。プロファイルとは、対象サイト、リクエスト量、地域の組み合わせです。
書き出すべき項目は以下です。
- 対象ドメインと具体的なページ種別(商品ページ、検索結果、プロフィール)
- 1時間あたり、1日あたりのリクエスト数
- 地理的要件(米国IPが必要か、EUか、特定都市か)
- セッション要件:stateless(独立リクエスト)か stateful(ログイン、Cookie付きページ送り)か
- データ検証要件:「良いレスポンス」とは何か
- 許容レイテンシと再試行予算
この作業は10分で済みますが、後で何時間も無駄な検証をするのを防いでくれます。
Step 2: 適切なプロキシ種類とプロバイダーを選ぶ
前述のフローチャートに従ってプロキシタイプを決めてください。そのうえで、実際の対象サイトに対して、少額の有料バッチで2〜3社を比較します。Reddit のコミュニティでも、一般的な成功率マーケティングは無視して、実サイトで試すべきだという意見が一貫しています。
評価ポイントは次の通りです。
- プールサイズと地理カバレッジ
- ASNの多様性(多いほどサブネット単位でブロックされにくい)
- ローテーション制御と sticky session のTTL
- プロトコル対応:HTTP、HTTPS、SOCKS5
- 料金体系:GB課金、IP課金、リクエスト課金、または無制限
- トライアルの有無(試せないなら、それ自体が危険信号)
- ダッシュボードの透明性:リクエスト単位のログが見えるか
Step 3: フィンガープリント構成を整える
フィンガープリントは、対象の期待値に合わせてください。防御が弱い基本ページなら、curl-impersonate や適切に設定した httpx セッションのような、よく調整されたHTTPクライアントで足りることがあります。JSが重く防御も強いページでは、実ブラウザか、stealth プラグイン付きの管理されたヘッドレス環境を使ってください。
主な設定項目は以下です。
- TLS / JA4 フィンガープリントを、User-Agent のブラウザバージョンと一致させる
- 現実的な HTTP/2 設定とヘッダー順序を使う
- User-Agent、OS、ビューポート、タイムゾーン、ロケール、プロキシの地理情報を整合させる
- プロキシ経由のリモートDNS解決を有効にする
- ヘッドレス Chrome / Playwright を使うなら、puppeteer-extra-plugin-stealth などを適用する
Step 4: ローテーションとセッション管理を賢く実装する
- Statelessスクレイピング: リクエストごとのローテーションを設定する。各リクエストに新しいIPを割り当てる
- Statefulフロー: 適切なTTLで sticky session を設定する(一般的には5〜30分。最大24時間対応のプロバイダーもある)
- リトライ: 指数バックオフにジッターを加える。固定間隔ではなく、
1秒 → 2秒 → 4秒のように、ランダムな揺らぎを入れる。BlackHatWorld のユーザーも ブロックが増えたときは速度を上げるのではなく、落とすべきだと強調しています - 地理的一貫性: 実際のユーザーが移動できる速度より速く、国や都市をまたがない
Step 5: ステータスコードではなくレスポンス内容を検証する
ここで多くの構成が静かに失敗します。HTTP 200は成功を意味しません。次のような検証ロジックを入れてください。
- 期待するHTMLセレクタやJSONキーが存在する
- CAPTCHAやチャレンジページの痕跡がない
- コンテンツが空、または途中で切れていない
- ログイン壁や同意壁がない
- ロケールや言語が正しい(地域指定の場合)
- ソフトブロックの文言(「通常とは異なるアクティビティを検出しました…」など)がない
- データが新しい(古いキャッシュページではない)
このステップを飛ばすと、「成功率95%」が実際には「使えるデータ60%」ということになりかねません。

Step 6: 監視し、記録し、改善する
プロキシの成功率は、一度設定して終わりの項目ではなく、生きている指標です。次のセクションで詳しく説明します。
プロキシ成功率を長期的に監視・診断・回復する方法
競合記事ではここがあまり触れられませんが、これこそが趣味レベルのスクレイパーと本番運用の担当者を分ける部分です。成功率は下がります。IPは焼かれます。プロバイダーのプールも変動します。対象サイトは防御を更新します。システムが必要です。
各リクエストで記録すべき項目
プロキシ経由の全リクエストで、次を記録してください。
- タイムスタンプ
- 対象URLとページタイプ
- プロキシプロバイダー、IP、ポート、ASN、地理情報(国/都市)
- プロキシ種類とセッションID
- 使用した User-Agent / ブラウザプロファイル
- HTTPステータスコード(200、403、429、503、タイムアウト)
- レイテンシ(ms)
- リトライ回数
- 検証結果: 有効データ、CAPTCHA、空白ページ、ソフトブロック、ログイン壁、ロケール不一致
- コスト単位:消費GB または リクエスト課金額
追跡すべき主要指標
| 指標 | 計算式 | 重要な理由 |
|---|---|---|
| 検証済み成功率 | 有効レスポンス ÷ 総試行数 | これだけが本当に意味のある数値 |
| ASN / サブネット別ブロック率 | ASN X からのブロック数 ÷ ASN X 経由の総リクエスト数 | 焼けたIPレンジを特定できる |
| 平均レイテンシと p95 | 標準的なレイテンシ計算 | 遅延はブロックの前兆であることが多い |
| リトライ率 | リトライ数 ÷ 初回試行数 | 高いほど帯域の無駄が大きい |
| CAPTCHA / チャレンジ率 | チャレンジ応答 ÷ 総試行数 | 防御強化の早期警告 |
| 成功1件あたりのコスト | 総プロキシ費用 ÷ 有効レスポンス数 | 実際のROI指標 |
診断フレームワーク:成功率が落ちたときの確認順
検証済み成功率が下がったら、次の順で確認してください。
- 対象サイトがアンチボットを更新したか? Cloudflare や Akamai の新しい導入、チャレンジページの変更、レスポンスパターンの変化を確認
- 特定ASNやサブネットが焼けていないか? ブロック率をASN別に分ける。あるサブネットだけが集中攻撃されていても、他は無事なことがある
- フィンガープリントがずれていないか? ライブラリ更新、ヘッダー変更、TLS不一致は、夜のうちに壊れる原因として非常に多いです。これは「何週間も動いていたのに突然止まった」の最頻出原因です
- プロバイダーのプール品質が落ちていないか? ステータスページ、コミュニティ報告、対象プールが低品質なピアに回されていないかを確認
- トラフィック量が急増していないか? 対象サイトは負荷に応じて動的にレート制限を厳しくすることがあります
- 地理、タイムゾーン、ロケールがずれていないか? インフラ変更で出口地理が予告なしに変わることがあります
回復のためのプレイブック
- まず速度を落とす。 すぐに高いプロキシを買い足さない。減速して成功率が戻るか確認する
- まだなら、ジッター付きの指数バックオフを追加する
- 別のASNブロックやサブネットに切り替える
- 新しいIPは徐々に温める。 初日から全開で流さない
- プロキシ種別のアップグレードは、ボトルネックがIP信頼性だと分かってから。フィンガープリントや速度制御が原因なら、種類を変えても直りません
- ログに不一致があれば、フィンガープリント構成を作り直す
- プール品質が落ちて、プロバイダーも理由を説明できないなら、別プロバイダーへフェイルオーバー
- 目的が構造化抽出なら、APIの方が適していないかを再検討する。 プロキシ運用にエンジニアリング時間を取られすぎているなら、抽出ロジックより抽象化レイヤーの見直しが必要です
ある Reddit のスレッド では、48時間は完璧に動いていた住宅プロキシが、その後は90%失敗に落ちたと報告されています。速度低下、タイムアウト、ブロックが、IP自体が明確にブラックリスト化されていなくても起こっていました。ログと監視がなければ、こうした劣化は気づく前に予算を食い尽くします。
プロキシ管理を丸ごと省くべきタイミング:AIネイティブのスクレイピングAPI
プロキシを管理している開発者の多くは、実際にはネットワーク問題ではなく、データ抽出問題を解こうとしています。目的が構造化データなら、プロキシ層は正しい抽象化ではありません。
自前でプロキシを運用するのが向いているのは、出口IPを厳密に制御したいとき、ブラウザ自動化を細かくカスタマイズしたいとき、大規模な認証セッション管理が必要なとき、あるいはこの種の作業を楽しめる専任インフラエンジニアがいるときです(本当にいます。私も会ったことがあります)。
でも、それ以外の人、特にWebページから構造化JSONやきれいなMarkdownを取りたいチームにとっては、プロキシ、アンチボット、レンダリング、解析を1回の呼び出しでまとめて処理できるAPIの方が、根本的に違う、そして多くの場合より良いアプローチです。
Thunderbit では、開発者向けスタック を通じて、プロキシ管理層全体を隠蔽する設計にしています。

- Open API:
POST /extractで、任意URLからスキーマに一致した構造化JSONを返します。JSレンダリング、アンチボット回避、CAPTCHA処理が標準搭載で、プロキシ設定は不要です。POST /distillはページをクリーンなMarkdownに変換し、RAG/LLMパイプラインに使えます。POST /suggest_fieldsは抽出可能な項目を無料で提案します - MCP Server:
thunderbit_extractとthunderbit_distillを使えば、Claude や Cursor のようなAIエージェントやコーディング支援ツールが、作業途中でスクレイピング できます。プロキシ基盤は不要です - CLI:
npx @thunderbit/thunderbit-cli extract <url> --schema schema.json -f jsonで、ターミナルやCIからバッチ抽出できます。プロキシ設定を触る必要はありません
同じAIエンジンが、10万人以上の拡張機能ユーザー を支え、ローンチ発表 によると月間で数千万ページを抽出しています。
比較:自前プロキシ運用 vs Thunderbit API / MCP / CLI
| 観点 | 自前プロキシ運用 | Thunderbit API / MCP / CLI |
|---|---|---|
| 構築時間 | 数時間〜数日(プロバイダー評価、設定、テスト) | 数分(APIキー + スキーマ) |
| アンチボット対応 | 自分で管理(フィンガープリント、ローテーション、CAPTCHA) | 内蔵、自動処理 |
| 出力形式 | 生HTML → 自分で解析 | JSON Schema による構造化JSON |
| 保守 | 継続的に必要(プール健全性、IPローテーション、プロバイダー切替) | クレジット残高とスキーマ品質を監視 |
| 最適用途 | 高頻度の独自パイプライン、出口IPの厳密制御、特殊なアンチボット対象 | 構造化データ抽出、RAG取り込み、エンリッチメントワークフロー |
プロキシが不要になったわけではありません。ただ、必要な出力が構造化データなら、プロキシ層にエンジニアリング時間を使う場所としては、そもそも不適切かもしれません。
簡単な例:プロキシなしで構造化データを抽出する
自前でプロキシを管理する場合、EC商品ページから商品データを取る処理は、だいたい次のようになります。
- プロキシプロバイダーを選び、ローテーションを設定する
- TLSフィンガープリントの整合とヘッダーの一貫性を整える
- プロキシ経由でリクエストを送る
- BeautifulSoup や独自パーサーで生HTMLを解析する
- レスポンスがCAPTCHAやソフトブロックでないか確認する
- 失敗時のリトライ、バックオフ、IP切り替えを処理する
- 抽出データを自分のスキーマに整形する
Thunderbit CLI なら、同じ作業はこうです。
npx @thunderbit/thunderbit-cli extract "https://example.com/product" --schema schema.json -f json
コマンド1つで、構造化JSONが出力されます。プロキシ設定も、フィンガープリント調整も、HTML解析も不要です。代わりに失うのは制御性です。出口IPを選んだり、ブラウザ環境を細かくカスタマイズしたりはできません。構造化抽出のワークフローでは、たいていそのトレードオフは十分に価値があります。
AI web scraping と従来手法の比較については、別途詳しく解説しています。
プロキシ成功率を大きく落とす、よくあるミス
フォーラム、サポート問い合わせ、そして正直に言えば私自身の昔の実験でも、次のミスは何度も出てきます。
-
強力な保護サイトにデータセンタープロキシを使う。 Amazon、LinkedIn、Instagram はデータセンターASNを見ています。対策: 住宅プロキシやISPプロキシをテストし、GB単価ではなく実効コストで判断する。
-
フィンガープリントの整合を無視する。 TLSハンドシェイクはPythonなのに、User-AgentはChrome、タイムゾーンはUTC。対策: TLS、HTTP/2、ヘッダー、ブラウザ、OS、タイムゾーン、ロケール、プロキシの地理情報まで全部そろえる。
-
対象サイトを全速力で叩く。 同じサブネットから毎秒100リクエストは、隠れる気がありません。対策: ジッター付きの間隔を使う。スケール前にまず減速する。
-
HTTPステータスコードだけを見て成功判定する。 CAPTCHAページを含む200レスポンスは成功ではありません。対策: レスポンス本文を期待コンテンツに照らして検証する。
-
プロキシ設定を「一度やったら終わり」と考える。 先月は動いたかもしれません。でも今日も動くとは限りません。対策: 検証済み成功率、ブロック率、レイテンシ、成功1件あたりのコストを継続監視する。
-
最安プロバイダーをテストなしで選ぶ。 「月10ドルの無制限住宅プロキシ」は、ほぼ確実に罠です。対策: 本番対象に対して有料トライアルを必ず行う。
-
高リスク・長期運用で共有プールを使う。 他の顧客の評判を引き継いで、1リクエストも送る前にIPが焼かれることがあります。対策: 評判の継続性が重要なら、専用またはISPプロキシを使う。
このどれか1つでも、成功率を半分に落とせます。複数重なると、同じ対象で15%しか成功しないチームと90%以上出せるチームが分かれる理由になります。
まとめ:本当に効くものは何か
高い成功率は、「最強の」プロバイダーや最も高価なIPを見つけることからは生まれません。対象に合ったプロキシを選び、一貫したフィンガープリントを作り、人間らしく速度を調整し、すべてのレスポンスを検証し、継続的に監視することで実現します。
重要ポイントは次の5つです。
- 成功率は、対象サイトのカテゴリとプロキシ種類で大きく変わる — ベンダーの宣伝ではなく、ベンチマーク表を基準に現実的な期待値を置く
- IPローテーションだけでは足りない — TLSフィンガープリント、ヘッダー整合、行動シグナルも同じくらい重要で、場合によってはそれ以上
- フローチャートで用途に合うプロキシ種類を選ぶ — お金を使う前に判断する
- すべてのリクエストを監視・記録する — 成功率は時間とともに悪化し、継続的な調整が必要
- 構造化データ抽出なら、そもそも自前のプロキシ管理が最適かを再検討する — Thunderbit のようなAIネイティブAPIなら、構造化出力が目的のときにプロキシ管理層を丸ごと不要にできる
APIアプローチを試したいなら、Thunderbit では無料クレジット を用意しています。プロキシ設定は不要です。
AI Web Scraper を試す Get Started Free
よくある質問
良いプロキシ成功率とはどのくらいですか?
これは対象次第です。保護が弱い公開ページ(ディレクトリ、クラシファイド)なら、住宅プロキシで検証済み成功率90%以上は十分狙えます。Akamai、Cloudflare、HUMAN のような強固な保護サイトでは、優れたフィンガープリント構成があっても60〜80%が現実的なことがあります。継続して50%を下回るなら、根本的な不一致、つまりプロキシ種類の選定ミス、フィンガープリントの破綻、リクエスト頻度の過多が疑われます。
住宅プロキシは常にデータセンタープロキシより成功率が高いですか?
保護された対象では、たいていはそうです。ただし、必ずではありません。curl-impersonate のような手法でTLS/ブラウザフィンガープリントが整ったデータセンタープロキシの方が、デフォルトの Python ヘッダーで送る住宅プロキシより上回ることがあります。重要なのは、対象の難易度に合わせてプロキシ種類とフィンガープリント品質の両方を合わせることです。保護が弱い対象なら、データセンタープロキシは低コストで十分機能します。
プロキシIPはどのくらいの頻度でローテーションすべきですか?
Stateless なスクレイピング(商品ページ、検索結果)では、リクエストごとのローテーションが標準です。ログインや複数ステップの遷移では、5〜30分程度の sticky session が一般的で、24時間まで対応するプロバイダーもあります。最重要ルールは、実際の人間が物理的に移動できる速度より速く地理を切り替えないことです。2秒でニューヨークからシカゴへ移動するのは、人間の行動ではありません。
無料プロキシで高い成功率は出せますか?
短く言うと、無理です。無料プロキシはIPが使い古されていて、成功率が低く、稼働も不安定で、セキュリティ上のリスクも大きいです(通信をログしているものもあります)。本番用途なら、試用できる評判の良い有料プロバイダーに投資するか、Thunderbit のような、内部でプロキシを管理するマネージドAPIを使ってください。
自分でプロキシを管理する代わりに、APIを使うべきなのはいつですか?
本当の目的が生HTMLではなく構造化データ抽出であるとき、プロキシ基盤を保守するインフラ担当がいないとき、あるいは対象が頻繁に変わって適応型の解決策が必要なときです。もしプロキシローテーション、フィンガープリント調整、プール健全性の管理に、実際にデータを使うより多くのエンジニアリング時間を使っているなら、あなたの問題に対してプロキシ層はたぶん適切な抽象化ではありません。Thunderbit の API、MCPサーバー、CLI なら、アンチボット、レンダリング、解析を1回で処理できるので、実際に作りたいものに集中できます。
さらに詳しく知る


