Useimmat proxyjen käyttäjät, joiden kanssa puhun, kuvaavat samaa turhautumista: he valitsevat palveluntarjoajan, säätävät kierron kohdilleen, ja silti puolet pyynnöistä palautuu CAPTCHA-esteinä tai tyhjinä sivuina. Hallintapaneeli näyttää "99.9% success rate". Taulukkolaskenta kertoo muuta.
Tässä on se, mitä taustalla oikeasti tapahtuu. Proxy servers market is worth roughly USD 1.9 billion in 2026 and is projected to reach USD 2.6 billion by 2031 — joten proxy-infrastruktuuriin virtaa oikeaa rahaa. Mutta kuilu myyntipuheiden ja tuotantokäytön todellisuuden välillä on valtava. Olen käyttänyt paljon aikaa riippumattomiin vertailuihin, yhteisöraportteihin ja anti-bot-dokumentaatioon selvittääkseni, mikä oikeasti parantaa onnistumisprosentteja. Tästä oppaasta tuli lopputulos: käytännönläheinen, operaattoritason pelikirja — ei teoriaa, ei palveluntarjoajien hypetystä.
Mitä "proxy success rate" oikeastaan tarkoittaa (ja miksi useimmat luvut valehtelevat)
Proxy success rate tarkoittaa yksinkertaisimmillaan sitä osuutta pyynnöistä, jotka palauttavat kelvollista ja käyttökelpoista dataa. Ei pelkkää HTTP 200 -tilakoodia. Ei pelkkää "proxy yhdistyi" -viestiä. Vaan oikeaa sisältöä, jota voi käyttää.
"Onnistumista" on vähintään neljällä tasolla, ja ero niiden välillä on tärkeämpi kuin useimmat ymmärtävät:
- Siirtoyhteyden onnistuminen: proxy yhdistyi ja palautti jotain.
- HTTP-onnistuminen: kohdepalvelin palautti ei-virheellisen tilakoodin (200, 301 jne.).
- Sisältöonnistuminen: vastauksen runko sisältää odotetun datan — ei CAPTCHA-sivua, ei pehmeää estoa, ei tyhjää kuorta.
- Liiketoiminnallinen onnistuminen: data on riittävän täydellistä jatkoputkea tai analyysiä varten.
Palveluntarjoajien väitteet 99.9% success tai 99.86% success sijoittuvat yleensä kahdelle ensimmäiselle tasolle. Ne mitataan helpoilla kohteilla, matalalla rinnakkaiskuormalla ja kontrolloiduilla reiteillä. Proxywayn metodologia on rehellisempi — siellä onnistuminen määritellään pyynnöiksi, jotka tavoittavat kohteen ja saavat vastauksen, ja samalla seurataan vasteaikaa ja vakautta. Mutta sekään ei kerro, onko vastauksen runko oikea tuotesivu vai Cloudflaren haaste.
Proxy-tyyppi, kohteen anti-bot-taso, pyyntömäärä, sessiohallinta ja digitaalisen sormenjäljen yhdenmukaisuus määräävät lopullisen luvun. Suhtaudu success rateen vaihteluvälinä. Jokainen, joka myy sinulle yhden kiinteän luvun, myy harhaa.
Kokeile AI Web Scraperia jäsenneltyä dataa varten
Realistiset proxy success rate -vertailuarvot kohdesivustotyypin mukaan
Jokainen kilpailija-artikkeli, jonka olen lukenut, puhuu proxy-tyypeistä ja success rateista vain yleisellä tasolla — kukaan ei julkaise odotettuja vaihteluvälejä sivustokategorian mukaan. Tässä on siis se taulukko, jota kukaan muu ei anna.
Muutama huomio ennen taulukkoa: nämä ovat suuntaa antavia suunnitteluvälejä, eivät laboratorio-olosuhteissa sertifioituja lupauksia. Ne olettavat perussormenjäljen hygienian (TLS, headerit ja User-Agent vastaavat toisiaan) sekä järkevän pyyntötahtin. Todelliset lukusi vaihtelevat pinon, volyymin ja kohteen senhetkisen anti-bot-asetelman mukaan.
| Kohdesivuston tyyppi | Datacenter-proxy | ISP-proxy | Residential-proxy | Mobile-proxy |
|---|---|---|---|---|
| Yksinkertaiset hakemistot / ilmoitussivustot | 85–98% | 90–99% | 90–99% | 90–99% |
| Tavallinen verkkokauppa (tuotesivut) | 50–85% | 75–95% | 80–97% | 85–98% |
| Hakukoneet (Google, Bing) | 30–70% | 60–90% | 70–95% | 75–95% |
| Matkailu / lippupalvelut / markkinapaikat | 20–60% | 50–85% | 60–90% | 70–95% |
| Sosiaalinen media / kirjautumista vaativat työnkulut | 10–50% | 40–80% | 50–85% | 60–90% |
| Vahvasti suojatut (Akamai, Cloudflare, HUMAN) | 10–60% | 40–80% | 50–90% | 60–92% |
Huomaa, miten välimat menevät osittain päällekkäin ja joskus "halvempi" proxy-tyyppi ylittää odotukset. Se johtuu siitä, että proxy-tyyppi on vain yksi muuttuja. Olen nähnyt Redditissä raportteja, joissa datacenter-proxyt yhdistettynä curl-impersonate -työkaluun pääsivät noin 91% onnistumisasteeseen keskikokoisilla Cloudflare-suojatuilla verkkokaupoilla, kun taas residential-proxyt oletus-Python requests -headereilla jäivät 60% tasolle. Sormenjäljen laatu voi voittaa raakaan IP-luotettavuuteen perustuvan edun.
Miksi verkkokaupoissa estotaso on erilainen kuin sosiaalisessa mediassa
Mistä vaihtelu johtuu? Eri sivustokategoriat investoivat hyvin eri tasoisiin anti-bot-kerroksiin.
Verkkokauppa- ja markkinapaikkasivustot yhdistelevät yleensä rate limitingiä, IP-reputaation pisteytystä, käyttäytymisanalytiikkaa ja WAF-suojauksia. Monet käyttävät Akamai Bot Manager -ratkaisua, DataDomea tai Cloudflarea, koska scraping vaikuttaa suoraan hinnoitteluun, varaston näkyvyyteen ja kilpailutiedon saantiin. Suojaus on todellinen, mutta se kohdistuu ennen kaikkea volyymiin ja toistuvaan käyttäytymiseen — jos näytät tavalliselta ostajalta, joka selaa ihmistahtiin, residential- ja ISP-proxyt voivat toimia hyvin.
Sosiaalinen media ja vahvasti kirjautumispohjaiset alustat ovat vaikeampia eri syystä. Niissä on tilihistoriaa, laiteidentiteettigrafiikkaa, sessiojatkumon odotuksia ja kehittyneitä käyttäytymismalleja. Proxy, joka toimii hyvin julkisella tuotesivulla, voi silti epäonnistua kirjautumisessa, scrollauksessa tai tilien vaihdossa. HUMAN's Bot Defender käsittelee monia datasignaaleja ja muodostaa käyttäytymiseen perustuvia sormenjälkiä — IP on vain yksi syöte.
Ilmoitussivustot, paikallishakemistot ja yksinkertaiset julkiset sivut ovat yleensä helpoimpia kohteita. Huumekäytön kannustimet ovat pienemmät, suojaukset yksinkertaisempia ja bottitunnistukseen panostetaan vähemmän. Datacenter-proxyt voivat toimia hyvin, kunhan pidät pyyntitahtin kurissa.
DataDomen detection guidance vahvistaa kerroksittaisen todellisuuden: tehokas bottitunnistus yhdistää sormenjäljet, käyttäytymisanalyysin, IP-reputaation, koneoppimisen ja laitevarmennuksen. Yksikään menetelmä ei nappaa kaikkia botteja, eikä mikään yksittäinen proxy-tyyppi päihitä kaikkia menetelmiä.
Opi, miten datan scrapaus toimii Get Started Free
Näin valitset oikean proxy-tyypin ja saat korkeammat onnistumisprosentit
Suurin osa hukkaan heitetyistä proxy-budjeteista johtuu väärän tyypin valinnasta kohteeseen. Olen nähnyt tiimien polttavan satoja dollareita datacenter-kaistaa Instagramissa ennen kuin kukaan edes pysähtyi miettimään, onko lähestymistapa järkevä. Yksinkertainen päätöskehys estää tämän.
Proxy-päätöspuu
Käy nämä kysymykset läpi järjestyksessä:
1. Mitä olet scrapaamassa?
- Julkinen data (verkkokauppalistaukset, hakutulokset, hakemistot) → Siirry kysymykseen 2.
- Kirjautuneen käyttäjän sessiot (sosiaalinen media, SaaS-hallintapaneelit, kirjautumista vaativat työnkulut) → Tarvitset sticky-sessionit ja luotettavat IP:t. Hyppää ISP- tai mobile-proxyihin.
2. Minkä tasoinen anti-bot-suoja kohteessa on?
- Matala (perus-rate limiting, ei JS-haasteita) → Datacenter-proxyt voivat toimia. Testaa ensin.
- Keskitaso (Cloudflare JS Challenge, kohtuullinen sormenjälkiseuranta) → Residential- tai ISP-proxyt. Sormenjälkipinon laatu ratkaisee.
- Korkea (Akamai, PerimeterX/HUMAN, DataDome) → Residential- tai mobile-proxyt sekä täydellinen sormenjälki- ja käyttäytymispino.
3. Tarvitsetko sticky-sessioita vai tilattomia kiertoja?
- Tilaton (jokainen pyyntö on itsenäinen) → Pyynnöstä toiseen vaihtuva IP-kierto.
- Tilallinen (kirjautumiset, monivaiheinen navigointi, ostoskorioperaatiot) → Sticky-sessionit ISP- tai dedikoiduilla residential-IP:illä.
4. Millainen pyyntövolyymi sinulla on?
- Alle 1K pyyntöä/päivä → Lähes mikä tahansa proxy-tyyppi toimii, jos kohde ei ole vahvasti suojattu. Aloita halvalla.
- 1K–100K/päivä → Residential- tai ISP-proxyt suojattuihin kohteisiin. Seuraa onnistuneen pyynnön hintaa.
- 100K+/päivä → Tarvitset palveluntarjoajatasoista pool-diversiteettiä, ASN-kiertoa ja todennäköisesti usean proxy-tyypin yhdistelmän.
Tässä nopea vertailu proxy-tyypeistä:
| Proxy-tyyppi | Nopeus | Hinta | Luottamustaso | Paras käyttötapaus | Onnistumismalli |
|---|---|---|---|---|---|
| Datacenter | Korkea | Matala (~$0.50–2/IP/kk) | Matala–keskitaso | Yksinkertaiset julkiset sivut, SEO-tarkistukset, suuri volyymi / vähäinen suojaus | Vahva helpoissa kohteissa, heikko hyvin suojatuissa |
| Residential | Keskitaso | Keskitaso–korkea (~$5.88–$7/GB) | Korkea | Verkkokauppa, julkinen data, maantieteeseen sidottu scraping | Vahva, jos sormenjälki ja pyyntitahti ovat johdonmukaiset |
| ISP / Static Residential | Korkea | Keskitaso (~$2.70–3.33/IP) | Keskitaso–korkea | Pitkät sessiot, tilityönkulut, vakaa identiteetti | Hyvä sticky-flow'hin; vähemmän IP-vaihtoja |
| Mobile | Matala–keskitaso | Korkea (~$3.50–7.50/GB) | Erittäin korkea | Sosiaalisen median ja mobiilin kohteet, mainostarkistukset, ban-herkät kohteet | Korkea luottamus, kallis, ei immuuni |
Kiertäminen vs. sticky-sessionit: keskeinen kompromissi
Pyynnöstä toiseen vaihtuva kierto antaa jokaiselle pyynnölle uuden IP:n. Se sopii tilattomaan scrappaamiseen — tuotesivut, hakutulokset, hakemistot. Se jakaa kuormaa ja estää yksittäistä IP:tä keräämästä liikaa huomiota.
Sticky-sessionit pitävät saman IP:n käytössä määritellyn ajan. Oxylabs sanoo, että residential sticky-sessionit voivat kestää jopa 24 tuntia. Ne ovat välttämättömiä kirjautumisvirroissa, monivaiheisessa navigoinnissa ja kaikessa, missä kohde odottaa session jatkuvuutta.
Tarkkailtava epäonnistumistapa on sticky-session drift. Taustalla oleva residential-peeri voi mennä offline-tilaan, palveluntarjoaja voi vaihtaa exit-IP:n huomaamatta, tai kohde voi mitätöidä session. Yhteisöraportit Redditissä ja BlackHatWorldissa mainitsevat toistuvasti sticky-sessionien epävakautta, joka ei vastaa palveluntarjoajien lupauksia.
Käytännön sääntö: käytä kiertoa tilattomaan työhön, sticky-sessioita tilalliseen työhön, ja seuraa aina, onko session identiteetti oikeasti vakaa.
Jaetut vs. dedikoidut proxyt: milloin sillä on väliä
Jaetut proxyt ovat halvempia, koska useat asiakkaat käyttävät samaa poolia. Ne sopivat matalan riskin, vähäisen suojauksen tehtäviin. Riski on peritty maine — jaettu IP voi olla jo poltettu juuri siinä kohteessa, jota tarvitset.
Dedikoidut proxyt maksavat enemmän, mutta tarjoavat puhtaamman maineen ja paremman hallinnan. Käytä niitä korkean riskin kohteissa, pitkissä kampanjoissa tai tilityönkuluissa, joissa poltettu IP tarkoittaa estettyä tiliä. BlackHatWorldin ketjut varoittavat toistuvasti, että erittäin halvat "unlimited" residential-poolit voivat olla pieniä ja ylikäytettyjä — käytännössä "spammed to death" monilla sivustoilla.
Ajattele todellista kustannusta: dedikoitu IP, joka maksaa etukäteen 3x enemmän, voi olla kokonaisuutena halvempi, jos se kaksinkertaistaa kelvollisten vastausten määrän ja poistaa uudelleenyrittämisen hukkaa.
IP-kierron lisäksi: täydellinen anti-detection-checklist vuodelle 2026
Pelkkä IP-kierto on vanhentunut strategia. Piste. Nykyaikaiset anti-bot-järjestelmät tarkastelevat kymmeniä signaaleja IP-osoitteesi lisäksi, ja useimmat proxy-oppaat teeskentelevät, ettei tätä osiota ole olemassakaan. Jos korjaat vain IP-kerroksen, koko muu pino jää heikoksi lenkiksi.
Täydellinen checklist vuodelle 2026:
1. TLS/JA3/JA4-sormenjäljen yhteensovitus
Cloudflaren dokumentaatio selittää, että JA3- ja JA4-sormenjäljet tunnistavat TLS-asiakkaat sen perusteella, miten ne aloittavat yhteydet. Eri selaimet, botit ja HTTP-kirjastot tuottavat erilaisia handshake-kuvioita. Jos User-Agent sanoo "Chrome 125", mutta TLS-handshake näyttää Python requestsiltä tai Go:n oletus-HTTP-asiakkaalta, ristiriita on välitön automaatiosignaali — jo ennen kuin kohde ehtii renderöidä sivun.
2. HTTP/2-asetukset ja headerien järjestys
HTTP/2 tuo lisää sormenjälkitettavia signaaleja: SETTINGS-kehykset, WINDOW_UPDATE-käyttäytyminen, pseudo-headerien järjestys ja priorisointi. Scrapflyn vuoden 2026 opas vahvistaa, että anti-bot-järjestelmät kuten Cloudflare, Akamai ja DataDome yhdistävät protokolla- ja TLS-sormenjäljet monikerroksiseksi tunnistuspinoksi. Headerien arvot eivät riitä — myös headerien järjestys ratkaisee.
3. User-Agent ↔ käyttöjärjestelmä ↔ TCP-pino -yhtenäisyys
Selaimen identiteetin pitää olla sisäisesti johdonmukainen. Mobiili Android User-Agent yhdistettynä desktop-viewport-kokoon, macOS-fontteihin, US-English-localeen, Ubuntu-tyyliseen TCP-pinon ja saksalaiseen residential-IP:hen ei ole normaali käyttäjä. Se on punainen lippu -voileipä. Oxylabs tukee suoraan IP-version ja käyttöjärjestelmän / alustan suodatusta realistisemman liikennemallin luomiseksi.
4. Canvas/WebGL-sormenjäljen entropia
Selaimen sormenjälki ulottuu canvas-renderöintiin, WebGL-parametreihin, fontteihin, audio contextiin ja hardware concurrencyyn. Nämä signaalit muodostavat laiteidentiteetin, jonka pitäisi pysyä samana saman "käyttäjän" pyynnöissä.
5. DNS-vuotojen estäminen
Käytä DNS-resoluutiota proxy-palvelimen kautta, älä paikallista DNS:ää. DNS-vuoto paljastaa todellisen sijaintisi ja infrastruktuurisi, mikä murentaa koko proxy-asetelman.
6. Pyyntiajoitus ja käyttäytymissignaalit
Tasaiset pyyntivälit paljastavat botin. Oikeilla käyttäjillä ajoitus on epäsäännöllistä — piikkejä, taukoja, scrollausta, paluukäyntejä. Fingerprint.comin vuoden 2026 bot detection -katsaus vahvistaa, että tunnistus seuraa hiiren liikkeitä, scrollausta, pyyntönopeuksia ja navigointimalleja. Lisää satunnaistettuja viiveitä ja jitteriä. Vältä mahdottomia sijaintihyppyjä (New Yorkista Los Angelesiin kahdessa sekunnissa ei liiku kukaan oikeasti).
7. JavaScript-renderöinti ja headless-selaimen signaalit
Jos kohde odottaa JavaScript-käyttäytymistä, tarvitset oikean selaimen tai hyvin konfiguroidun headless-ympäristön. Puppeteer Extra Stealth paikkaa ilmeisiä automaatiosignaaleja kuten navigator.webdriver, mutta Browserless varoittaa, etteivät stealth-pluginit kata kaikkea verkko- tai infrastruktuuritasolla. DataDomen analyysi stealth-plugineista muistuttaa tunnistuksen jatkuvasta kissa ja hiiri -luonteesta.
8. Evästeiden ja session tilan hallinta
Säilytä evästeet ja session tila monivaiheisia työnkulkuja varten. "Käyttäjä", joka saapuu ilman evästeitä, hyväksyy ne, ja näkyy seuraavassa pyynnössä taas ilman evästeitä, on ilmeisesti automatisoitu.
Ydinajatus: ne käyttäjät, jotka korjaavat vain IP-kerroksen mutta sivuuttavat sormenjäljet, ovat juuri niitä, joiden scrapersit "lakkaavat yhtäkkiä toimimasta viikkojen moitteettoman käytön jälkeen". Kohde ei yleensä muuttanut IP-estämistään — se kiristi sormenjälkitarkistuksiaan.
Vaiheittainen opas korkeiden proxy success rate -lukujen saavuttamiseen
- Vaikeustaso: Keskitaso
- Aika: ~30–60 minuuttia alkuasennukseen, jatkuvasti seurantaan
- Tarvitset: Kohde-URL-listan, proxy-palveluntarjoajan tilin (kokeilukin kelpaa), HTTP-asiakkaan tai headless-selaimen sekä lokitustoiminnon
Vaihe 1: Määritä liikenneprofiilisi
Ennen kuin kosket proxy-hallintapaneeliin, dokumentoi mitä oikeasti teet. Zyten traffic profile -ajatus kuvaa tämän hyvin: profiilisi on kohdesivustojen, pyyntövolyymin ja maantieteellisten sijaintien yhdistelmä.
Kirjoita ylös:
- Kohdedomainit ja sivutyypit (tuotesivut, hakutulokset, profiilit)
- Pyyntömäärä tunnissa ja päivässä
- Maantieteelliset vaatimukset (tarvitsetko US-IP:tä? EU:ta? tiettyjä kaupunkeja?)
- Sessiotarve: tilaton (itsenäiset pyynnöt) vai tilallinen (kirjautumiset, sivutus evästeillä)
- Datan validointivaatimukset: miltä "hyvä" vastaus näyttää?
- Hyväksyttävä viive ja retry-budjetti
Tämä vie kymmenen minuuttia ja säästää myöhemmin tunteja turhaa testausta.
Vaihe 2: Valitse oikea proxy-tyyppi ja palveluntarjoaja
Käytä aiempaa päätöspuuta proxy-tyypin valintaan. Arvioi sitten 2–3 palveluntarjoajaa pienillä maksullisilla erillä oikeaa kohdettasi vasten. Redditin yhteisöneuvot sanovat toistuvasti: jätä yleiset success rate -mainokset huomiotta ja testaa oikeaa sivustoa.
Arvioi palveluntarjoajia seuraavilla:
- Poolin koko ja maantieteellinen kattavuus
- ASN-diversiteetti (mitä monipuolisempi, sitä vaikeampi estää aliverkon perusteella)
- Kierron hallinta ja sticky-session TTL
- Protokollatuki: HTTP, HTTPS, SOCKS5
- Hinnoittelumalli: per-GB, per-IP, per-request tai unlimited
- Kokeilumahdollisuus (jos testaus ei onnistu, se on punainen lippu)
- Hallintapaneelin läpinäkyvyys: näetkö request-tason lokit?
Vaihe 3: Konfiguroi sormenjälkipinosi
Varmista, että sormenjälkesi vastaa kohteen odotuksia. Perussivuille, joissa suojaus on vähäistä, hyvin konfiguroitu HTTP-asiakas (kuten curl-impersonate tai oikein asetettu httpx-sessio) voi riittää. JS-raskaille suojatuille sivuille käytä oikeaa selainta tai hallittua headless-ympäristöä stealth-plugineilla.
Keskeiset asetukset:
- Yhdistä TLS/JA4-sormenjälki User-Agentin selaimenkohteen kanssa
- Aseta realistiset HTTP/2-asetukset ja headerien järjestys
- Varmista, että User-Agent, OS, viewport, timezone, locale ja proxy-geo ovat keskenään johdonmukaisia
- Ota käyttöön etä-DNS-resoluutio proxyn kautta
- Jos käytät headless Chromea/Playwrightia, lisää puppeteer-extra-plugin-stealth tai vastaava
Vaihe 4: Toteuta järkevä kierto ja sessiohallinta
- Tilaton scraping: käytä per-request-kiertoa. Jokainen pyyntö saa uuden IP:n.
- Tilalliset työnkulut: käytä sticky-sessioita sopivalla TTL:llä (5–30 minuuttia on tyypillistä; jotkin palveluntarjoajat tukevat jopa 24 tuntia).
- Uudelleenyritykset: toteuta eksponentiaalinen backoff jitterillä. Ei kiinteitä välejä —
1s → 2s → 4ssatunnaisella vaihtelulla. BlackHatWorldin käyttäjät korostavat hidastamisen merkitystä, kun estoja alkaa tulla lisää, eivät nopeuttamista. - Maantieteellinen jatkuvuus: älä hyppää maiden tai kaupunkien välillä nopeammin kuin oikea käyttäjä ehtisi matkustaa.
Vaihe 5: Validioi vastaukset, älä vain tilakoodit
Tässä kohtaa suurin osa asetuksista epäonnistuu hiljaa. HTTP 200 ei tarkoita onnistumista. Rakenna validointilogiikka, joka tarkistaa:
- Odotetut HTML-selektorit tai JSON-avaimet löytyvät
- Ei CAPTCHA- tai challenge-sivun merkkejä
- Sisältö ei ole tyhjä tai katkennut
- Ei kirjautumis- tai suostumusmuuria
- Oikea locale/kieli (jos geo-targetoit)
- Ei pehmeän eston viestejä ("We detected unusual activity...")
- Datan tuoreus (ei vanhentunutta välimuistiversiota)
Jos ohitat tämän vaiheen, "95% success rate" voi todellisuudessa tarkoittaa vain 60% käyttökelpoista dataa.

Vaihe 6: Seuraa, lokita ja kehitä
Proxy success rate ei ole kertaluontoinen asetus, vaan elävä mittari. Seuraava osio käsittelee tätä syvemmin.
Proxy success rate -lukujen seuranta, diagnosointi ja palauttaminen ajan myötä
Yksikään kilpaileva artikkeli ei käsittele tätä kunnolla, ja juuri tässä harrastajat erottautuvat tuotantotason tekijöistä. Onnistumisprosentit heikkenevät. IP:t palavat. Palveluntarjoajien poolit vaihtelevat. Kohteet päivittävät puolustustaan. Tarvitset järjestelmän.
Mitä lokittaa jokaisesta pyynnöstä
Jokaisesta proxy-putken läpi kulkevasta pyynnöstä kannattaa tallentaa:
- Aikaleima
- Kohde-URL ja sivutyyppi
- Proxy-palveluntarjoaja, IP, portti, ASN ja geo (maa/kaupunki)
- Proxy-tyyppi ja session ID
- Käytetty User-Agent / selainprofiili
- HTTP-tilakoodi (200, 403, 429, 503, timeout)
- Latenssi (ms)
- Uudelleenyritysten määrä
- Validoinnin tulos: kelvollinen data, CAPTCHA, tyhjä sivu, soft block, kirjautumismuuri, väärä locale
- Kustannusyksikkö: käytetty GB tai request-maksu
Tärkeimmät seurattavat mittarit
| Mittari | Kaava | Miksi sillä on väliä |
|---|---|---|
| Validioitu onnistumisprosentti | Kelvolliset vastaukset ÷ kaikki yritykset | Ainoa luku, joka todella merkitsee |
| Estoprosentti ASN:n / aliverkon mukaan | Estot ASN X:stä ÷ kaikki pyynnöt ASN X:n kautta | Paljastaa poltetut IP-alueet |
| Keskimääräinen ja p95-latenssi | Tavallinen latenssilaskenta | Hitaat vastaukset ennustavat usein estoja |
| Retry-rate | Uudelleenyritykset ÷ alkuperäiset yritykset | Korkea retry-rate = hukattu kaista |
| CAPTCHA-/challenge-rate | Haastevastaukset ÷ kaikki yritykset | Varhainen merkki puolustuksen kiristymisestä |
| Hinta per onnistunut pyyntö | Kokonaisproxy-kulut ÷ kelvolliset vastaukset | Todellinen ROI-mittari |
Diagnostiikkakehys: kun success rate laskee
Kun validioitu onnistumisprosentti laskee, tarkista asiat tässä järjestyksessä:
- Onko kohde päivittänyt anti-bot-suojaansa? Etsi uusia Cloudflare- tai Akamai-käyttöönottoja, uusia challenge-sivuja tai muuttuneita vastausmalleja.
- Onko tietyt ASN:t tai aliverkot poltettu? Erottele estoprosentti ASN:n mukaan. Jos yksi aliverkko saa kyytiä, muu pooli voi olla kunnossa.
- Onko sormenjälkesi ajautunut? Kirjastopäivitys, header-muutos tai TLS-ristiriita voi rikkoa kaiken yhdessä yössä. Tämä on yleisin syy siihen, että "se toimi viikkoja ja sitten yhtäkkiä lakkasi".
- Heikkeneekö palveluntarjoajan poolin laatu? Tarkista status-sivu, yhteisöraportit ja onko poolisi osa vaihdettu heikompiin vertaisiin.
- Nousiko liikennemääräsi? Kohteilla on usein dynaamisia rate limit -rajoja, jotka kiristyvät kuormituksen kasvaessa.
- Ovatko geo, timezone tai locale ajautuneet? Infrastruktuurimuutokset voivat vaihtaa ulosmenon sijainnin varoittamatta.
Palautuspelikirja
- Laske tahtia ensin. Älä heti osta kalliimpia proxyeja. Hidasta ja katso, palautuuko onnistuminen.
- Lisää eksponentiaalinen backoff jitterillä, jos et ole tehnyt sitä vielä.
- Vaihda toiseen ASN-lohkoon tai aliverkko-osioon.
- Lämmitä uudet IP:t asteittain. Älä ammu uutta poolia täyteen kuormaan ensimmäisenä päivänä.
- Päivitä proxy-tyyppiä vain silloin, kun data osoittaa IP-luottamuksen olevan pullonkaula, ei sormenjäljen tai tahdin.
- Rakenna sormenjälkipinosi uudelleen, jos lokit näyttävät ristiriitoja.
- Vaihda toiseen palveluntarjoajaan, jos poolin terveys heikkenee eikä syytä selitetä.
- Arvioi, olisiko API-abstraktio parempi vaihtoehto, jos tavoitteena on jäsennelty poiminta ja proxy-operaatiot vievät enemmän insinööriaikaa kuin itse poimintalogiikka.
Yksi Reddit-ketju kuvaa residential-proxyja, jotka toimivat täydellisesti 48 tuntia ja romahtivat sitten 90% failure rateen — nopeus laski, timeoutit lisääntyivät ja estot tulivat mukaan, vaikka IP:t eivät olleet selvästi merkattuina. Ilman lokitusta ja seurantaa tällainen heikkeneminen voi syödä budjettisi ennen kuin huomaatkaan.
Milloin proxyjen hallinta kannattaa ohittaa kokonaan: AI-natiivit scraping-API:t
Moni proxyjä hallitseva kehittäjä yrittääkin oikeasti ratkaista datan poimintaongelmaa, ei verkkoyhteysongelmaa. Kun tavoite on jäsennelty data, proxy-kerros on väärä abstraktiotaso.
Itse hallitut proxyt ovat järkeviä, kun tarvitset täsmällistä exit-IP:n hallintaa, räätälöityä selainautomaatioita, autentikoitujen sessioiden hallintaa skaalassa tai kun käytössäsi on infrastruktuuri-insinöörejä, jotka oikeasti nauttivat tästä työstä (sellaisia on — olen tavannut heitä).
Mutta kaikille muille — etenkin tiimeille, jotka tarvitsevat verkkosivuilta jäsenneltyä JSONia tai siistiä Markdownia — API, joka hoitaa proxyt, anti-botin, renderöinnin ja parsinnan yhdellä kutsulla, on olennaisesti erilainen (ja usein parempi) lähestymistapa.
Thunderbitillä rakensimme developer stackimme piilottamaan koko proxy-hallintakerroksen:

- Open API:
POST /extractpalauttaa skeemaan sopivaa jäsenneltyä JSONia mistä tahansa URL-osoitteesta. JS-renderöinti, anti-bot-ohitus ja CAPTCHA-käsittely ovat sisäänrakennettuina — ei proxy-konfiguraatiota.POST /distillmuuntaa sivut puhtaaksi Markdowniksi RAG/LLM-putkiin.POST /suggest_fieldslöytää poimittavat kentät ilmaiseksi. - MCP Server:
thunderbit_extractjathunderbit_distill-työkalut antavat AI-agenteille ja koodaaville avustajille (Claude, Cursor) scrapata kesken työn ilman proxy-infrastruktuuria. - CLI:
npx @thunderbit/thunderbit-cli extract <url> --schema schema.json -f jsonmahdollistaa eräpoiminnan terminaalista tai CI:stä ilman proxy-asetusten koskemista.
Samaa AI-moottoria käyttää 100,000+ extension users, jotka poimivat kuukausittain kymmeniä miljoonia sivuja launch announcementin mukaan.
Vertailu: itse hallitut proxyt vs. Thunderbit API / MCP / CLI
| Ominaisuus | Itse hallitut proxyt | Thunderbit API / MCP / CLI |
|---|---|---|
| Käyttöönottoaika | Tunteja–päiviä (palveluntarjoajan arviointi, konfigurointi, testaus) | Minuutteja (API-avain + skeema) |
| Anti-bot-käsittely | Sinun hallinnassasi (sormenjäljet, kierto, CAPTCHA:t) | Sisäänrakennettu, automaattinen |
| Tulostusmuoto | Raaka HTML → sinun parsittava | Jäsennelty JSON JSON Scheman kautta |
| Ylläpito | Jatkuvaa (poolin terveys, IP-kierto, palveluntarjoajan vaihdot) | Seuraa krediittejä ja skeeman laatua |
| Paras käyttökohde | Suurivolyymiset räätälöidyt putket, tarkka exit-IP-hallinta, niche anti-bot -kohteet | Jäsennelty datan poiminta, RAG-ingestio, rikastusworkflow't |
Proxyt eivät ole vanhentuneita. Mutta jos tarvitset lopputuloksena jäsenneltyä dataa, proxy-kerros ei ehkä ole se oikea paikka käyttää insinööriresurssit.
Nopea esimerkki: jäsennellyn datan poiminta ilman proxyeja
Itse hallituilla proxyeilla tuotedatan poiminta verkkokauppasivulta näyttää suunnilleen tältä:
- Valitse proxy-palveluntarjoaja ja määritä kierto
- Säädä TLS-sormenjälki ja headerien yhtenäisyys
- Lähetä pyyntö proxyn kautta
- Parsii raakaa HTML:ää BeautifulSoupilla tai omalla parserilla
- Varmista, ettei vastaus ole CAPTCHA tai soft block
- Käsittele retryt, backoff ja IP-kierto virheen sattuessa
- Muotoile poimittu data omaan skeemaan
Thunderbit CLI:llä sama tehtävä:
npx @thunderbit/thunderbit-cli extract "https://example.com/product" --schema schema.json -f json
Yksi komento. Jäsennelty JSON-lähtö. Ei proxy-konfiguraatiota, ei sormenjäljen hienosäätöä, ei HTML-parsintaa. Kompromissi on hallinta — et voi valita exit-IP:tä tai räätälöidä selainympäristöä. Jäsenneltyjen poimintatyönkulkujen kohdalla tuo kompromissi on yleensä sen arvoinen.
Lisää aiheesta AI web scraping ja siitä, miten se vertautuu perinteisiin lähestymistapoihin, olemme kirjoittaneet laajasti.
Yleiset virheet, jotka romahduttavat proxy success rate -lukusi
Nämä toistuvat foorumeilla, tukipyynnöissä ja rehellisesti sanottuna myös omissa vanhoissa kokeiluissani:
-
Datacenter-proxyjen käyttäminen vahvasti suojatuilla sivustoilla. Amazon, LinkedIn, Instagram — nämä sivustot tunnistavat datacenter-ASN:t. Korjaus: testaa residential- tai ISP-proxyt ja vertaa todellista kustannusta, älä vain per-GB-hintaa.
-
Sormenjäljen yhdenmukaisuuden sivuuttaminen. TLS-handshake kertoo Pythonia, User-Agent kertoo Chromea ja timezone on UTC. Korjaus: sovita kaikki kerrokset yhteen — TLS, HTTP/2, headerit, selain, käyttöjärjestelmä, timezone, locale ja proxy-geo.
-
Kohteiden hakkaaminen täydellä nopeudella. 100 pyyntöä sekunnissa samasta aliverkosta ei ole huomaamatonta. Korjaus: käytä jitteröityä tahtia. Hidasta ennen kuin skaalaat.
-
Vain HTTP-tilakoodien validointi. 200-vastaus, joka sisältää CAPTCHA-sivun, ei ole onnistuminen. Korjaus: validioi vastauksen runko odotettuja sisältökuvioita vasten.
-
Proxy-asetusten käsitteleminen periaatteella "aseta ja unohda". Se toimi viime kuussa. Se ei ehkä toimi tänään. Korjaus: seuraa validioitua success ratea, estoprosenttia, latenssia ja onnistumiskohtaista kustannusta jatkuvasti.
-
Halvimman palveluntarjoajan valinta testaamatta. "Unlimited residential proxies for $10/month" on melkein aina ansa. Korjaus: aja maksulliset kokeilut oikeaa kohdettasi vasten ennen sitoutumista.
-
Jaettujen poolien käyttö korkean riskin, pitkissä kampanjoissa. Muiden asiakkaiden periytynyt maine voi polttaa IP:si ennen kuin lähetät yhden ainutta pyyntöä. Korjaus: käytä dedikoituja tai ISP-proxyjä siellä, missä maineen jatkuvuus on tärkeää.
Yksikin näistä voi puolittaa onnistumisprosenttisi. Yhdessä ne selittävät, miksi jotkut tiimit raportoivat 15% success ratea, kun taas toiset pääsevät yli 90% samaa kohdetta vasten.
Lopuksi: mikä oikeasti liikuttaa neulaa
Korkeat onnistumisprosentit eivät tule siitä, että löydät "parhaan" palveluntarjoajan tai kalleimman IP-tyypin. Ne syntyvät siitä, että sovitat proxy-tyypin kohteeseen, rakennat eheän sormenjälkipinon, tahdat kuin ihminen, validioit jokaisen vastauksen ja seuraat jatkuvasti.
Keskeiset opit:
- Success rate vaihtelee dramaattisesti kohdesivuston tyypin ja proxy-tyypin mukaan — aseta realistiset odotukset vertailutaulukon, ei myyntipuheiden perusteella.
- Pelkkä IP-kierto ei riitä — TLS-sormenjälki, headerien yhdenmukaisuus ja käyttäytymissignaalit ovat yhtä tärkeitä (joskus tärkeämpiä).
- Käytä päätöspuuta valitaksesi proxy-tyypin käyttötapaukseen ennen kuin käytät rahaa.
- Seuraa ja lokita jokainen pyyntö — onnistumisprosentit heikkenevät ajan myötä ja vaativat aktiivista säätöä.
- Jäsennellyn datan poiminnassa kannattaa miettiä, onko proxyjen itsehallinta ylipäätään oikea tapa. AI-native API:t kuten Thunderbitin ratkaisu voivat poistaa proxy-hallintakerroksen kokonaan, kun tavoitteena on jäsennelty ulostulo.
Jos haluat kokeilla API-lähestymistapaa, Thunderbit tarjoaa ilmaisia krediittejä aloitukseen — proxy-konfiguraatiota ei tarvita.
Kokeile AI Web Scraperia Get Started Free
Usein kysytyt kysymykset
Mikä on hyvä proxy success rate?
Riippuu täysin kohteesta. Matalasti suojatuilla julkisilla sivuilla (hakemistot, ilmoitussivut) residential-proxyeilla 90%+ validioitu onnistumisprosentti on saavutettavissa. Vahvasti suojatuilla sivustoilla (Akamai, Cloudflare, HUMAN) 60–80% voi olla realistinen hyvällä sormenjälkipinolla. Alle 50% toistuvasti viittaa perustavanlaatuiseen ristiriitaan — väärä proxy-tyyppi, rikkinäinen sormenjälki tai liian aggressiivinen pyyntitahti.
Ovatko residential-proxyt aina parempia kuin datacenter-proxyt?
Suojatuissa kohteissa yleensä kyllä — mutta ei aina. Datacenter-proxy, jossa on johdonmukainen TLS-/selaimen sormenjälki (esimerkiksi curl-impersonate-tyyppisellä lähestymisellä), voi päihittää residential-proxyn, joka lähettää pyyntöjä Pythonin oletusheadereilla. Olennaista on sovittaa sekä proxy-tyyppi että sormenjäljen laatu kohteen vaikeustasoon. Matalasti suojatuissa kohteissa datacenter-proxyt toimivat hyvin murto-osalla hinnasta.
Kuinka usein proxy-IP:t pitäisi kierrättää?
Tilattomassa scrappaamisessa (tuotesivut, hakutulokset) per-request-kierto on normaali. Kirjautumisvirroissa tai monivaiheisessa navigoinnissa sticky-sessionit 5–30 minuutin TTL:llä ovat tyypillisiä — jotkin palveluntarjoajat tukevat jopa 24 tuntia. Tärkein sääntö: älä vaihda sijaintia nopeammin kuin oikea käyttäjä ehtisi fyysisesti matkustaa. New Yorkista Chicagoon kahdessa sekunnissa ei liiku kukaan.
Voinko saada korkeat success rate -luvut ilmaisilla proxyeilla?
Lyhyt vastaus: et käytännössä. Ilmaiset proxyt ovat ylikäytettyjä, niiden success rate on surkea, käyttöaika arvaamaton ja turvallisuusriskit merkittäviä (osa lokittaa liikenteesi). Tuotantotyöhön kannattaa panostaa luotettavaan maksulliseen palveluntarjoajaan kokeiluoikeudella, tai käyttää hallittua API:a kuten Thunderbit, joka hoitaa proxyt taustalla.
Milloin API kannattaa valita oman proxyhallinnan sijaan?
Kun todellinen tavoitteesi on jäsennellyn datan poiminta, ei raaka HTML, kun sinulla ei ole infrastruktuuri-insinöörejä ylläpitämässä proxy-putkia, tai kun kohde muuttuu usein ja tarvitset mukautuvan ratkaisun. Jos käytät enemmän insinöörityöaikaa proxy-kiertoon, sormenjäljen säätöön ja poolin terveyden seurantaan kuin itse poimitun datan hyödyntämiseen, proxy-kerros on todennäköisesti väärä abstraktio ongelmaasi. Thunderbitin API, MCP server ja CLI hoitavat anti-botin, renderöinnin ja parsinnan yhdellä kutsulla — jotta voit keskittyä siihen, mitä oikeasti rakennat.
Lisätietoja


