Craigslist 看起來好像還停在 2003 年,但那些純文字列表底下藏著的資料,其實超有價值。它每月大約有 1.27 億次造訪,而且每個月還有 數千萬筆新刊登,到現在依然是美國最大的分類廣告平台之一——而且沒有可用的公開 API。
我在 Thunderbit 做自動化工具已經很多年了,來自銷售、營運和房地產團隊最常問我的一句話就是:「我想把 Craigslist 的資料放進試算表,但我不想花三個小時複製貼上。」問題是,多數「最佳 Craigslist 爬蟲」指南不是已經過時,就是直接跳過最難的部分(像反機器人防護),不然就是只列工具,卻沒有真的拿來比較。
所以我整理了這篇指南,收錄 10 款在 2026 年真的還能用的工具——從免程式碼的 Chrome 擴充功能,到企業級代理平台,再到開源 Python 函式庫。不管你是從沒寫過程式的商務使用者,還是每天都在用 Python 思考的開發者,這裡都能找到適合你的選擇。
為什麼 2026 年還要爬 Craigslist?商務團隊的熱門應用場景
Craigslist 也許看起來很老派,但這正是它的魅力所在,也正是它的價值。它在 全球分類網站中排名第 3,而且官方目錄涵蓋 美國及各領地 416 個站點。這代表有大量獨特的在地資訊分散在各個城市,別的地方根本找不到。
以下是我一再看到團隊會反覆使用的情境:
- 開發潛在客戶: 服務與兼職類貼文通常會包含業務描述、地區資訊,以及 Craigslist 的轉接聯絡路徑,對銷售團隊來說,已經足夠建立在地名單。
- 房地產監控: 租屋頁面會顯示租金、社區、房間數、坪數與時間戳,特別適合比較租金與追蹤空屋。
- 競品定價分析: 二手/待售列表會顯示標題、價格、狀況與地點,對轉售或套利研究來說非常有價值。
- 招募與勞動市場監測: 工作與兼職類別能看到薪酬、雇用型態與職務描述,可用來觀察在地人才市場。
- 跨區域市場分析: 由於 Craigslist 是依子網域與城市切分,你可以逐區查詢價格、數量或類別組成。
- 流程自動化: 很多使用者只是想把 Craigslist 資料送進 CSV、Google Sheets、Airtable 或 CRM,而不是手動瀏覽。
有位使用者回報,原本每天抓一次 Craigslist 要花 60–90 分鐘,在自動化之後縮短到大約 5 分鐘。這種時間節省是會很快累積出成果的。
用 AI 抓取 Craigslist 資料 Thunderbit 的代理式網頁爬蟲可自動讀取 Craigslist 列表頁,一鍵擷取價格、描述與聯絡資訊。 Get Started Free
我們如何挑選最佳 Craigslist 爬蟲:評估標準
不是每一款 Craigslist 爬蟲都一樣,「最佳」工具很大程度取決於你是誰,以及你需要什麼。我從六個面向評估每一款工具:
- 設定難度 — 對新手友不友善(免程式碼),還是一定得要開發者?
- Craigslist 反機器人處理能力 — 是否內建代理輪換、CAPTCHA 處理或瀏覽器指紋偽裝?
- 價格級距 — 免費、Freemium、付費,還是企業級?
- 資料匯出選項 — CSV、Excel、Google Sheets、Airtable、Notion、JSON、資料庫?
- 跨區域支援 — 能不能抓遍美國 416 個 Craigslist 站點,還是一次只能處理一個城市?
- 維護成本 — Craigslist 一改版頁面版型,工具會不會壞掉,還是能自動適應?
我找到的其他競品文章,沒有一篇能用這種一致標準做橫向比較——如果你也受夠了那些模糊不清的「Top 10」列表,這篇就是給你的。
一眼看懂 10 款最佳 Craigslist 爬蟲
在深入介紹各工具之前,先看總覽比較表。我把它們分成三類:給商務使用者的免程式碼工具、給規模化需求的企業平台,以及給開發者的開源函式庫。
| 工具 | 類型 | 有免費方案嗎? | 代理 / 反機器人支援 | CAPTCHA 處理 | 匯出格式 | 最適合 |
|---|---|---|---|---|---|---|
| Thunderbit | 免程式碼 Chrome 擴充功能 | 有(每月 6 頁) | 瀏覽器模式(中等規模不需代理) | 不適用(瀏覽器工作階段) | Excel、Sheets、Airtable、Notion、CSV、JSON | 非技術商務使用者 |
| Bright Data | 企業級爬蟲 + 代理 + 資料集 | 試用版 | 代管解封鎖、代理、重試、渲染 | 有(自動處理) | JSON、NDJSON、CSV、Parquet、XLSX、API | 企業級資料收集 |
| Oxylabs | API + 代理架構 | 試用版 | 代管解封鎖、住宅 / ISP 代理 | 有 | HTML、截圖、API 輸出 | 需要企業基礎架構的開發者 |
| Apify | 雲端 Actor 市集 | 有(每月 $5 額度) | 代理輪換(依 actor 而定) | 部分 / 依 actor 而定 | JSON、CSV、XML、Excel、JSONL | 彈性的低程式碼雲端自動化 |
| ParseHub | 免程式碼視覺化爬蟲 | 有 | 付費代理輪換、雲端執行 | 非核心功能 | CSV、JSON、API/S3/Dropbox(付費) | 預算型免程式碼使用者 |
| Phantombuster | 雲端自動化平台 | 有(有限制) | 支援代理 | 透過額度 / 工作流程處理 | CSV、JSON(付費) | 多平台銷售自動化 |
| Scrapy | 開源 Python 爬蟲框架 | 免費(開源) | 自備代理 / 中介軟體 | 否 | JSON、JSONL、CSV、XML、資料庫 | 生產級爬蟲 |
| Playwright | 開源瀏覽器自動化 | 免費(開源) | 自備瀏覽器 / 代理 | 否 | 自訂匯出 | 瀏覽器層級控制 |
| Selenium | 開源瀏覽器自動化 | 免費(開源) | 自備瀏覽器 / 代理 | 否 | 自訂匯出 | 舊有多語言技術棧 |
| BeautifulSoup | 開源 HTML 解析器 | 免費(開源) | 本身不支援 | 否 | 自訂匯出 | 輕量級解析 |
這裡很清楚可分出三條路:
- 免程式碼工具(Thunderbit、ParseHub、Phantombuster),適合想要資料、但不想承擔工程負擔的商務使用者。
- 企業平台(Bright Data、Oxylabs、Apify),適合需要規模、反機器人基礎設施與代管交付的團隊。
- 開源開發者工具(Scrapy、Playwright、Selenium、BeautifulSoup),給你最大控制力——代價是設定、維護與代理管理。
接著開始深入介紹。
1. Thunderbit
Thunderbit 是一款 AI 驅動的 Chrome 擴充功能,專為想要從任何網站(包括 Craigslist)取得結構化資料、又不想寫程式或設定代理的人而設計。
這裡我有點偏心(因為這是我們做的),但我把 Thunderbit 放第一,是因為它正好解決了 Craigslist 對非技術使用者最麻煩的幾個點:不同類別的頁面版型差異、詳情頁補抓,以及 CSS 選擇器一變就壞掉的老問題。
在 Craigslist 上的運作方式:
- 安裝 Thunderbit Chrome 擴充功能,打開任何 Craigslist 列表頁(例如你所在城市的租屋頁)。
- 點一下 「一鍵擷取」 —— Thunderbit 的 AI 會讀取頁面、理解結構、判斷適合的欄位,並一次把資料拉成表格。租屋類型會得到 Title、Price、Sqft、Bedrooms、Location、Date Posted、Link;職缺則會看到 Title、Compensation、Job Type 等等。不需要手動設定選擇器。
- 處理分頁——Thunderbit 支援 Craigslist 這種點擊式分頁。
- 使用 「抓取子頁面」 逐一拜訪每個列表,擷取只有詳情頁才有的欄位:完整描述、所有圖片、內嵌聯絡資訊等。
- 匯出到 Google Sheets、Excel、Airtable、Notion 或 CSV——完全免費。
主要功能:
- AI 智慧欄位辨識: 會自動適應不同 Craigslist 類別——租屋類會有坪數/房間數欄位,職缺會有薪酬/職類欄位,待售商品則會有狀況/價格欄位。完全不需要手動碰 CSS。
- 子頁面抓取: 在抓完結果頁之後,逐一進入每個列表,補抓詳情頁欄位(完整描述、圖片、聯絡資訊)。
- 瀏覽器模式抓取: 在你自己的 Chrome 工作階段內執行,所以中等量級工作通常不需要代理。光這一點就少了非常多成本與複雜度。
- 零維護: AI 每次都會重新讀頁面。當 Craigslist 改版時(它確實會),你的爬蟲不會壞。
- 免費匯出: Excel、Google Sheets、Airtable、Notion、CSV、JSON——匯出沒有付費牆。
價格: 免費方案(每月 6 頁)、免費試用(10 頁)、以及更高用量的付費方案。
最適合: 從 Craigslist 服務/兼職貼文抓潛在客戶的銷售團隊、追蹤租金的房地產團隊、需要結構化 Craigslist 資料但不想依賴開發者的營運團隊,以及任何想一步完成抓取、標註與匯出的使用者。
試試 Thunderbit 來抓 Craigslist 免費方案每月可抓 6 頁,足夠在升級付費方案前先測試 Craigslist 抓取流程。 Get Started Free
2. Bright Data
Bright Data 是重量級的企業選擇。這是本清單中唯一同時擁有專門的 Craigslist Scraper 產品頁與 Craigslist Dataset 市集的平台。
如果你需要每天跨美國所有地區抓取數千筆 Craigslist 列表,Bright Data 就是為這種規模打造的。它的 Web Unlocker 可處理 IP、重試、渲染與封鎖問題——包含 預設自動解 CAPTCHA。Web Scraper IDE 讓你能建立客製化的 Craigslist 收集流程,而且可透過程式化方式遍歷全部 416 個地區網址。
主要功能:
- 大型住宅代理網路(數百萬 IP)
- 內建 CAPTCHA 解題與反機器人繞過
- Craigslist 專用爬蟲與資料集產品
- 匯出:JSON、NDJSON、CSV、Parquet、XLSX、API 傳遞、webhook
價格: Craigslist 爬蟲採 每 1,000 次頁面載入 $0.5 的按量計費,像是 38 萬次頁面載入方案為 $499。住宅代理採 每 GB $4 起的按量計費。另有為期一週的 1,000 次請求免費試用。
最適合: 需要高流量、跨區域 Craigslist 收集,且要求穩定運作與專屬支援的企業團隊。預算較緊的小團隊可能不適合。
3. Oxylabs
Oxylabs 是高階代理與爬取基礎設施供應商,提供專門的 Craigslist Scraper API 與 Craigslist proxies 頁面。
相較於 Bright Data 的一體化做法,Oxylabs 更偏向開發者導向。它的 Web Scraper API 與 Web Unblocker 支援 JS 渲染、重試、工作階段處理、指紋產生與更廣泛的反機器人處理。Craigslist Scraper API 的免費試用最多可到 2,000 筆結果。
主要功能:
- 住宅與 ISP 代理池(住宅代理自 每 GB $6 起,ISP 代理自 每 IP $0.60 起)
- 具備自動指紋與工作階段管理的 Web Unblocker
- Craigslist 專用 API 端點
- 提供 7 天免費試用
價格: 其他網站的 scraper API 起價約為 每 1K 結果 $0.15(無 JS)、每 1K 結果 $0.35(含 JS)。Web Unblocker micro 方案約從 每月 $75 起。大規模住宅代理可能在 1TB 用量時降到每 GB $0.50。
最適合: 想要代管代理基礎設施與 API 工作流程,並持續抓取 Craigslist 的開發團隊。已經在其他專案使用 Oxylabs 代理的團隊,會很容易把 Craigslist 加進來。
4. Apify
Apify 是一個雲端網頁爬取與自動化平台,擁有市場式的預建「Actors」——也就是你不用寫程式就能執行的爬蟲範本。
Apify 上的 Craigslist 生態很有意思:有多個社群維護的 Craigslist actor,但品質差異非常大。ivanvs/craigslist-scraper actor 累積 829 位使用者、評分 5.0;automation-lab/craigslist-scraper 則只有 44 位使用者、評分 1.0。品質不一致,所以在正式採用前一定要先測試。
主要功能:
- 有多個 Craigslist actors 可用(部分每頁可抓 約 120 筆列表,並內建延遲)
- 雲端執行、排程執行、API 存取、webhook 整合
- 可用 代理輪換
- 匯出:JSON、CSV、XML、Excel、JSONL
價格: 免費方案提供每月 $5 額度,付費方案約從每月 $49 起。若大量使用,按運算量計費可能會快速增加——要留意你的 CU 消耗。
最適合: 想要雲端代管、又不想自己維護基礎架構的團隊;能接受低程式碼設定的使用者;以及需要定期、反覆執行 Craigslist 擷取的團隊。
5. ParseHub
ParseHub 是一款桌面式視覺化網頁爬蟲,你可以直接點選頁面元素,定義要擷取哪些內容。
在 ParseHub 裡設定 Craigslist 爬取時,你會點擊標題、價格與連結,讓工具知道要抓什麼。它可透過 AJAX 點擊迴圈處理分頁,付費方案也支援雲端執行。免費方案最多可建立 5 個專案,對小規模 Craigslist 工作來說已經不錯。
主要功能:
- 視覺化點選式流程建立器
- 支援分頁與動態內容處理
- 付費方案可雲端執行與排程
- 匯出:CSV、Excel、JSON
價格: 免費方案(5 個專案),付費方案約從每月 $189 起,可支援更多頁面與排程執行。
限制: 大量抓取時可能偏慢,免費方案的排程次數有限,而且最關鍵的是,它依賴 CSS 選擇器,所以當 Craigslist 版型改變時,仍需要手動維護。
最適合: 需要視覺化、免程式碼工具,但不需要 AI 欄位辨識的個人使用者或小型團隊。
6. Phantombuster
Phantombuster 是一個雲端自動化平台,最初因 LinkedIn 與社群媒體爬取而走紅。它不是原生支援 Craigslist 的工具,但它的 Web Element Extractor 可以用 CSS 選擇器抓取公開頁面。
在 Phantombuster 裡設定 Craigslist 爬取,會比專用工具多一些工夫——你需要指定選擇器、建立流程,還要設定排程。但如果你本來就在用 Phantombuster 做 LinkedIn 或社群媒體名單開發,把 Craigslist 加進流程其實不難。
主要功能:
- 預建自動化範本與雲端執行
- 排程與 CRM 整合
- 支援代理與 CAPTCHA 解題額度
- 匯出:付費方案可輸出 CSV、JSON(免費方案上限 10 筆)
價格: 免費方案提供 5 個 slot、每月 2 小時、以及 10 筆匯出上限。年付方案約從每月 $56 起。
最適合: 已經用 Phantombuster 做多平台名單開發,想把 Craigslist 加進既有流程的銷售團隊。
7. Scrapy
Scrapy 是最受歡迎的開源 Python 網頁爬蟲框架,也是想要最大控制權的開發團隊,在抓取 Craigslist 時最直覺的選擇。
最新穩定版是 2.15.0(2026 年 4 月 9 日)。Scrapy 支援跨區域爬取(遍歷所有地區網址)、內建請求排程與節流、用於代理輪換的 downloader middleware,以及輸出到 CSV、JSON、JSONL、XML 與資料庫流程的 feed exports。在需要瀏覽器渲染時,scrapy-playwright 外掛可補上這一塊。
主要功能:
- 高度可自訂、可上線部署的爬蟲框架
- 支援代理、重試、cookie 與 user-agent 輪換的中介軟體
- Feed 匯出:JSON、JSONL、CSV、XML、資料庫流程
- 免費且開源
隱藏成本: Scrapy 本身免費,但如果要在 Craigslist 上大規模運行,仍需要代理訂閱(每月 $50–500+)、主機/伺服器成本,以及每次 Craigslist 改 HTML 結構時的持續維護。
最適合: 有 Python 經驗、需要高度彈性、已有代理基礎設施,並要做高流量跨區域 Craigslist 爬取的開發團隊。
8. Playwright
Playwright 是 Microsoft 推出的現代瀏覽器自動化函式庫,可用程式控制 Chromium、Firefox 與 WebKit。它的更新節奏很活躍——v1.59.1 於 2026 年 4 月 1 日發布。
在開發者社群中,Playwright 越來越被視為 Craigslist 爬取時比 Selenium 更值得優先使用的工具。它更快、更穩定,搭配 playwright-extra 等社群外掛也有更好的反偵測能力。它支援無頭與有頭模式、元素自動等待、網路攔截,以及截圖 / PDF 擷取。
主要功能:
- 支援 Python、JavaScript/TypeScript、Java 與 .NET
- 無頭與有頭瀏覽器模式
- 元素自動等待、網路攔截
- 免費且開源
Craigslist 優勢: Playwright 比原始 HTTP 請求更能像真實使用者,因而降低被封鎖風險。Reddit 上的社群意見也一向更偏好新專案使用 Playwright,而不是 Selenium。
隱藏成本: 跟 Scrapy 一樣,仍有代理費、主機費,以及選擇器失效時的維護成本。
最適合: 需要精細瀏覽器控制、要處理 JavaScript 渲染內容的爬蟲團隊,以及想找 Selenium 現代替代方案的開發者。
9. Selenium
Selenium 是老牌且廣泛使用的瀏覽器自動化框架。最新版本是 4.43.0(2026 年 4 月 10 日),並持續擴充 BiDi 與網路控制能力。
Selenium 支援多種語言(Python、Java、C#、JavaScript)與所有主流瀏覽器。它可以模擬完整瀏覽器工作階段、在需要時處理登入,並向下捲動頁面。但和 Playwright 相比,它速度較慢、程式碼較冗長,而且如果沒有像 undetected-chromedriver 這類額外的隱匿套件,更容易被偵測成機器人。
主要功能:
- 多語言支援(Python、Java、C#、JavaScript)
- 完整瀏覽器工作階段模擬
- 生態系成熟、文件完整
- 免費且開源
限制: 2026 年的社群風向更偏向新專案使用 Playwright。某個 Reddit 討論串提到,Cloudflare 即使在使用住宅代理時,仍能偵測到 Selenium——也就是說,預設情況下隱匿能力比較弱。
最適合: 已深度使用 Selenium、不想遷移的開發團隊,需要多語言支援(Java、C#)的專案,以及既有的老舊爬取架構。
10. BeautifulSoup
BeautifulSoup 是一個輕量級的 Python HTML / XML 解析函式庫。目前 PyPI 版本是 4.14.3(2025 年 11 月 30 日)。
先釐清一件事:BeautifulSoup 是 解析器,不是完整爬蟲。它不會幫你抓網頁,也不處理瀏覽器自動化。通常會搭配 requests 進行 HTTP 取得,然後解析你傳給它的 HTML。這讓它成為開發者最容易上手的入口,但功能也最有限。
主要功能:
- 非常容易學——需要的程式碼很少
- 適合小規模或一次性的 Craigslist 抓取
- 免費且開源
限制: 沒有內建分頁處理、沒有 JavaScript 渲染、沒有代理輪換——都得手動補上。如果 Craigslist 改了 HTML 結構,你的選擇器就會壞,需要自己修。
最適合: 想用最少設定試著做 Craigslist 抓取的 Python 初學者、從單一類別或地區做一次性資料提取的需求,以及只需要輕量解析器的開發者。
Craigslist 防封鎖操作手冊:代理、速率限制,以及會被擋的原因
這一段是大多數 Craigslist 抓取指南會跳過的,但也恰好是最重要的部分。Scraperly 在 2026 年 4 月的測試 把 Craigslist 歸類為 3/5 難度 目標,原因包含自訂 CAPTCHA、速率限制與 IP 封鎖。Bright Data 的教學 則建議使用 Web Unlocker 或基於 Playwright 的 Scraping Browser,而不是單純用 HTTP。Oxylabs 的代理頁 也明確指出 Craigslist 會偵測代理,而住宅代理是最佳選擇。
以下是實際有效的方法:
| 策略 | 在 Craigslist 上的效果 | 成本 | 複雜度 |
|---|---|---|---|
| 住宅代理 | ✅ 高 | $$(每 GB $4–6) | 中 |
| ISP 代理 | ✅ 高 | $(每 IP $0.60–0.80) | 中 |
| 資料中心代理 | ⚠️ 低(常被封) | $(每 IP $0.20–0.40) | 低 |
| 基於瀏覽器的抓取(自有 session) | ✅ 中高 | 免費 | 低 |
| 速率限制 + 隨機延遲 | ✅ 必要底線 | 免費 | 低 |
可執行建議:
- 請求延遲: 每次請求至少間隔 2–5 秒。Scraperly 建議每個 IP 維持在每分鐘 5–10 次請求,並在 20–30 次請求後輪換。
- 工作階段輪換: 輪換 user agent 與瀏覽器指紋。可預測的爬取模式很容易被抓到。
- 避免資料中心代理: 雖然便宜,但在 Craigslist 上很快就會被擋。
- 中等規模下,基於瀏覽器的抓取能直接解決代理問題。 Thunderbit 的瀏覽器模式是在你自己的 Chrome 工作階段中運作——不用設定代理、不用輪換 IP、沒有額外成本。對多數只抓幾百筆列表的商務使用者來說,這已經綽綽有餘。
還有一個多數人忽略的維護面向:當 Craigslist 改變 CSS(而且它確實會定期改)時,所有依賴 CSS 選擇器的爬蟲都會壞。你得重新檢查頁面、找新選擇器、更新程式碼,然後重測。像 Thunderbit 這種 AI 工具可以完全避開這個問題——AI 每次都會重新讀取頁面結構,所以版型改變不會把流程弄壞。
程式碼 vs. 免程式碼:兩種完整的 Craigslist 抓取教學
我知道這篇文章的讀者大致可分成五五波:一邊是只想拿到資料的非技術商務使用者,另一邊是想看可運作程式碼的初學到中階開發者。所以我把兩條路都放在這裡。
免程式碼:如何用 Thunderbit 抓 Craigslist(逐步教學)
- 從 Chrome Web Store 安裝 Thunderbit Chrome 擴充功能。
- 前往 Craigslist 列表頁——例如你所在城市的租屋頁(
https://yourcity.craigslist.org/search/apa)。 - 點擊「一鍵擷取」——Thunderbit 的 AI 會讀取頁面、理解結構、判斷該類別適合哪些欄位,並一次產生結構化表格。租屋類會看到 Title、Price、Sqft、Bedrooms、Location、Date Posted、Link;你也可以之後再調整欄位。
- 處理分頁——手動翻頁,或讓 Thunderbit 自動處理。
- 使用 「抓取子頁面」 逐一進入每個列表,補充詳情頁欄位:完整描述、所有圖片、內嵌聯絡資訊。
- 匯出到 Google Sheets、Excel、Airtable、Notion 或 CSV——免費。
整個流程對一頁結果來說大約只要 2 分鐘。沒有 CSS 選擇器、沒有代理、沒有程式碼。
程式碼路徑:如何用 Python + Playwright 抓 Craigslist
在 2026 年的開發者社群中,Playwright 是最常被推薦用來抓 Craigslist 的函式庫。以下是一段可運作的 Python 範例,會抓 Craigslist 的租屋結果頁、擷取標題/價格/連結、處理分頁,並輸出結果。
做法是:先嘗試抓 JSON-LD 結構化資料(Craigslist 某些頁面會嵌入 ItemList schema),再退回用 DOM 選擇器。分頁則透過 s=120 進位。
import asyncio, json
from urllib.parse import urlparse, parse_qs, urlencode, urlunparse
from playwright.async_api import async_playwright
def next_page_url(url, step=120):
p = urlparse(url)
qs = parse_qs(p.query)
offset = int(qs.get("s", ["0"])[0]) + step
qs["s"] = [str(offset)]
return urlunparse((p.scheme, p.netloc, p.path, "", urlencode(qs, doseq=True), ""))
async def scrape_page(page, url):
await page.goto(url, wait_until="domcontentloaded")
await page.wait_for_timeout(1500)
data = []
# Try JSON-LD first
for raw in await page.locator('script[type="application/ld+json"]').all_text_contents():
try:
obj = json.loads(raw)
except Exception:
continue
if isinstance(obj, dict) and obj.get("@type") == "ItemList":
for item in obj.get("itemListElement", []):
thing = item.get("item", {})
data.append({
"title": thing.get("name"),
"price": thing.get("offers", {}).get("price"),
"link": thing.get("url"),
})
if data:
return data
# Fallback: DOM selectors
cards = page.locator("div.cl-search-result, li.cl-static-search-result")
count = await cards.count()
for i in range(count):
card = cards.nth(i)
title = await card.locator("a.posting-title, a.titlestring").first.text_content()
link = await card.locator("a.posting-title, a.titlestring").first.get_attribute("href")
price = (await card.locator(".price, .result-price").first.text_content()
if await card.locator(".price, .result-price").count() else None)
data.append({"title": (title or "").strip(), "price": (price or "").strip(), "link": link})
return data
async def main():
start_url = "https://newyork.craigslist.org/search/apa?query=studio"
async with async_playwright() as p:
browser = await p.chromium.launch(headless=True)
page = await browser.new_page()
url = start_url
all_rows = []
for _ in range(3): # scrape 3 pages
rows = await scrape_page(page, url)
if not rows:
break
all_rows.extend(rows)
url = next_page_url(url)
await browser.close()
for row in all_rows[:10]:
print(row)
asyncio.run(main())
除了這段程式之外,你還需要: 安裝 Playwright(pip install playwright && playwright install)、在大流量執行時設定代理,以及在遇到速率限制時手動處理 CAPTCHA。這就是代價:你拿到完整控制權,也得承擔完整責任。
免費 vs. 付費:每一款 Craigslist 爬蟲的誠實成本拆解
這是我當初研究這個主題時最希望看到的表格。「免費」在網頁爬取裡其實是個很有條件的說法。
| 工具 | 完全免費嗎? | 免費方案限制 | 付費起價 | 隱藏成本 |
|---|---|---|---|---|
| Thunderbit | 免費方案 | 每月 6 頁;免費試用 = 10 頁 | 更高用量有付費方案 | 沒有——匯出免費 |
| Scrapy | ✅ 開源 | 無上限 | $0 | 代理費、主機費、維護費 |
| BeautifulSoup | ✅ 開源 | 無上限 | $0 | 代理費、主機費、維護費 |
| Playwright | ✅ 開源 | 無上限 | $0 | 代理費、主機費、維護費 |
| Selenium | ✅ 開源 | 無上限 | $0 | 代理費、主機費、維護費 |
| ParseHub | 免費方案 | 5 個專案 | 約 $189/月 | 免費方案排程次數有限 |
| Apify | 免費方案 | 每月 $5 額度免費 | 約 $49/月 | 按運算量計費可能飆升 |
| Phantombuster | 免費方案 | 5 個 slot、每月 2 小時、10 筆匯出 | 約 $56/月(年付) | 依 slot 計費 |
| Bright Data | 只有試用 | 1,000 次請求/1 週 | 約 $500+/月 | 代理費另計 |
| Oxylabs | 只有試用 | 2,000 筆結果/1GB | 約 $75+/月(Unblocker) | 企業級定價 |
關於「免費」開源工具,最大的註解是:Scrapy、Playwright、Selenium 和 BeautifulSoup 雖然安裝免費,但要在 Craigslist 上大規模跑,還是需要開發者花好幾個小時設定、每月 $50–500+ 的住宅代理費,以及 Craigslist 每次改 HTML 時都要持續維護。Thunderbit 的 AI 每次都會重新讀頁面(零維護)、匯出免費,而且在中等用量下可用瀏覽器模式免去代理成本。對非開發者來說,這是實打實的優勢。
你到底能抓到什麼:依 Craigslist 類別區分的資料欄位
不同 Craigslist 類別的資料結構差很多。租屋列表跟工作職缺完全不是同一種東西。以下是各主要版區通常能擷取的內容:
| Craigslist 類別 | 可擷取欄位 | 有聯絡資訊嗎? |
|---|---|---|
| 租屋/公寓 | 標題、價格、坪數、房間數、浴室數、地點、日期、圖片、描述、地圖連結、可租狀態、寵物政策、洗衣/停車資訊 | ⚠️ 有時有(匿名 email 轉接) |
| 待售商品 | 標題、價格、狀況、地點、日期、圖片、描述、品牌/型號/年份(視情況而定) | ⚠️ 有時有 |
| 職缺 | 標題、公司、薪酬、地點、職務類型、經驗程度、日期、描述 | 很少(通常只有應徵連結) |
| 服務 | 標題、地點、描述、圖片 | ⚠️ 有時有 |
| 兼職/零工 | 標題、薪酬、地點、日期、描述 | ⚠️ 有時有 |
幾個重點提醒:
- 聯絡資訊: Craigslist 會使用匿名 email 轉接機制,特別是為了避免直接抓取電子郵件。那些宣稱能「提取 email」的工具,很多時候抓到的是轉接地址(
reply+randomstring@craigslist.org),不是發文者的真實信箱。 - 詳情頁欄位(例如完整描述、所有圖片、內嵌聯絡資訊)只有在逐一進入每筆列表後才看得到,不在搜尋結果頁上。
- Thunderbit 的「一鍵擷取」 會自動辨識目前頁面可用的欄位,並建議正確的欄位結構。抓租屋會自動給你 sqft/bedrooms 欄位;抓職缺則會給你 compensation/job type 欄位——完全不用手動設定。之後再用它的 子頁面抓取 逐一進入每筆列表,擷取只存在詳情頁的內容。
法律現實檢查:Craigslist 服務條款、3Taps 案,以及你該知道的事
我不是律師,以下也不是法律建議。但我知道使用者會擔心這件事,所以值得直接說清楚。
關鍵先例: 在 Craigslist v. 3Taps(2013) 一案中,Craigslist 在發出停止侵權通知後,對 3Taps 抓取並重新發布列表的行為取得了禁制令。3Taps 被指控透過代理伺服器繞過 IP 封鎖,而法院把在封鎖後仍存取的行為視為可能屬於「未經授權」。後來 EFF 指出 這起案件在 2015 年達成和解。
Craigslist 的使用條款 明確 禁止 使用「robots、spiders、scripts、scrapers、crawlers 或任何自動或手動等效方式」與網站互動。它甚至規定,若違反 24 小時內前 1,000 次頁面瀏覽的限制,之後每頁的違約金為 $0.25。
實務建議:
- ✅ 可為市場研究或個人用途抓取公開列表資料
- ✅ 尊重 robots.txt 與速率限制
- ⚠️ 不要大量重新發布抓來的列表
- ⚠️ 不要拿抓到的聯絡資訊做未經請求的行銷
- ❌ 被封鎖後,不要繞過技術存取限制
差別很重要:為了自己分析而抓取公開可見資料,和大量重發布或蒐集 email 用於垃圾行銷,是兩回事。但也要注意,Craigslist 過去確實會從條款執行,一路升級到 IP 封鎖,甚至法律行動。
哪一款 Craigslist 爬蟲最適合你?
在測試並評估這 10 款工具之後,以下是我按情境給出的建議:
- 需要快速拿到 Craigslist 資料的非技術商務使用者 → Thunderbit。免程式碼、AI 智慧欄位辨識、零維護、免費匯出。這是從「我需要這些資料」到「它已在我的試算表中」最快的路。
- 每天跨所有地區抓取數千筆列表的企業團隊 → Bright Data。Craigslist 專用爬蟲、龐大的代理基礎設施、自動 CAPTCHA 處理、專屬支援。
- 需要代管 API/代理基礎設施的開發團隊 → 偏代理優先流程用 Oxylabs,想要 actor 市集彈性用 Apify。
- 想要完全控制與高度客製化的開發者 → Scrapy + Playwright。開源、彈性最大,但代理與維護都要自己承擔。
- 預算有限、需求中等的使用者 → Apify 免費方案($5/月額度)或 ParseHub 免費方案(5 個專案)。
- 已經在用多平台名單開發工具的銷售團隊 → Phantombuster。把 Craigslist 加進你現有流程即可。
- 想做一次性抓取的 Python 初學者 → BeautifulSoup + requests。程式碼少、設定少、能力也最基本。
對大多數非技術商務使用者來說,Thunderbit 在易用性、準確度與成本之間提供了最佳平衡。對開發者來說,Scrapy + Playwright 是最強大的組合。若你是企業級規模,Bright Data 幾乎很難被超越。
如果你想實際看看 AI 驅動的 Craigslist 抓取長什麼樣子, 不妨試試 Thunderbit——免費方案已足夠讓你在自己的情境中測試。若你想更深入了解網頁爬取技巧,也可以看看我們的指南:如何抓取到 Google Sheets、最佳自動化網頁爬蟲工具、以及 如何在不被封鎖的情況下做網頁爬取。你也可以到我們的 YouTube 頻道 看逐步影片教學。
祝你抓取順利——願你的資料永遠乾淨、結構化,並且隨時可用。
常見問題
抓取 Craigslist 列表是否合法?
Craigslist 的使用條款明確禁止自動化抓取,而 Craigslist v. 3Taps 一案 是最重要的法律先例。一般來說,為個人或分析用途抓取公開列表資料,和大量重新發布或垃圾行銷,法律看法並不相同,但你還是應該遵守速率限制與網站規則——而且這不是法律建議。
不寫程式也能抓 Craigslist 嗎?
可以。像 Thunderbit、ParseHub 和 Apify 都提供免程式碼或低程式碼方式來擷取 Craigslist 資料。Thunderbit 的 AI 欄位辨識特別容易上手——只要點「一鍵擷取」和「抓取」就行。
最好的免費 Craigslist 爬蟲是哪個?
對開發者來說,Scrapy 或 BeautifulSoup 完全免費且開源(但代理與維護成本還是會累積)。對不寫程式的人來說,Thunderbit 的免費方案(每月 6 頁)是最好的起點,ParseHub 的免費方案(5 個專案)則是另一個選擇。
如何避免在抓取 Craigslist 時被封鎖?
使用速率限制(每次請求至少延遲 2–5 秒)、輪換 user agent、避免資料中心代理(Craigslist 對住宅代理或 ISP 代理友善得多),並且不要採用可預測的爬取模式。對中等用量來說,像 Thunderbit 這種基於瀏覽器的工具,可以直接在你自己的 Chrome 工作階段中執行,等於完全繞開代理問題。
我可以一次抓所有 Craigslist 地區嗎?
如果使用 Scrapy 或 Playwright 這類開發者工具,你可以用程式循環遍歷全部 416 個美國/領地地區網址。像 Bright Data 和 Oxylabs 這類企業工具則內建跨區域抓取。使用 Thunderbit 時,你可以打開每個地區站點,用同一套流程擷取——AI 會自動適應每個頁面。
試試 Thunderbit 來抓 Craigslist Get Started Free
延伸閱讀


