如何解决HTTP错误提取URL。状态= 503 JSOUP(我试过所有解决方案)

问题描述 投票:0回答:1

在我的大数据项目中,我必须开发一个JSOUP脚本来获取Paris 2018的气象数据并存储它们

public static final String USER_AGENT = "Mozilla/5.0 (Windows NT 10.0; 
Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 
Safari/537.36";

    int numberDay = 1;
    for(numberDay=1; numberDay<32 ; numberDay++ ) {
        //une condition sur le numberDay =1 puisque dans URL 1  = 1er
        if(numberDay==1){

            String First=numberDay+"er";
            String url = "https://www.infoclimat.fr/observations-meteo/archives/"+First+"/"+listMois.get(1)+"/2018/paris-montsouris/07156.html";
            System.out.println(url);
            //Document doc = Jsoup.connect(url).userAgent("Mozilla").get();
            Document doc = Jsoup.connect(url).userAgent(USER_AGENT).get();

            //appel de la methode DataCollect
            dataCollect.GetData(doc);

        }


    else if(numberDay!=1) {

            String url = "https://www.infoclimat.fr/observations- 
meteo/archives/"+numberDay+"/"+listMois.get(1)+"/2018/paris- 
montsouris/07156.html";
            System.out.println(url);
            Document doc = 
Jsoup.connect(url).userAgent(USER_AGENT).get();

            dataCollect.GetData(doc);

        }
    else{
            System.out.println("erreur");
        }


}

我尝试了user_Agent的所有解决方案,但我有相同的错误(URL在浏览器上工作)

 Exception in thread "main" org.jsoup.HttpStatusException: HTTP error 
 fetching URL. Status=503

错误显示在第8天,因此他可以在8次请求后检测到它是机器人。

java jsoup
1个回答
0
投票

我能够通过设置一个线程来扩大查询之间的时间来解决问题

Thread.sleep(5000);
© www.soinside.com 2019 - 2024. All rights reserved.