程序员

自动搜索维基百科和百度百科

2015-01-06  本文已影响666人  OritimaHost

目的


如果我想知道张艺谋是谁?我会去百度百科或维基百科搜索一下,那么百度百科或维基百科会返回张艺谋网页结果。如果批量的去操作这种,手动去搜索是很浪时间和人力的。于是,我就写了一个SearchWord程序。

在百科上搜索张艺谋

介绍程序原理


其实我们去在浏览器里搜索一个词条,然后点击一下“进入词条”,网页会返回一个页面,用百度百科举例如下:

搜索张艺谋结果页面

那么我们用程序来做这样一件事情,也是同样的道理。具体步骤如下:

核心代码


模拟生成浏览器

准备htmlunit工具,模拟生成webclient,生成浏览器代码如下:

public static WebClient ConstructWebClient()
    {
        //set the Brower’s version 
        WebClient webClient = new WebClient(BrowserVersion.getDefault());
        // set Brower support javascript和 css
        webClient.getOptions().setJavaScriptEnabled(true);
        webClient.getOptions().setCssEnabled(false);
        webClient.setAjaxController(new NicelyResynchronizingAjaxController());
        // set Brower link time limit
        webClient.getOptions().setTimeout(120000);
        webClient.getOptions().setThrowExceptionOnScriptError(false);
        webClient.getOptions().setThrowExceptionOnFailingStatusCode(false);
        webClient.getOptions().setAppletEnabled(false);
        return webClient;
    }

type and click

 /**
             * Search the word on WIKI 
             */
            HtmlForm form = page.getForms().get(0);
            HtmlTextInput htmlTextInput = form.getInputByName("search");
            htmlTextInput.setValueAttribute(word);
            HtmlSubmitInput go = form.getInputByName("go");
            resultPage = go.dblClick();
/**
             * Enter the word on search 
             */
            HtmlForm form = page.getForms().get(0);
            HtmlTextInput htmlTextInput = form.getInputByName("word");
            htmlTextInput.setValueAttribute(word);
            HtmlButton button = (HtmlButton) page.getElementById("search");
            resultPage = button.click();

结束语


其实实现一个简单功能是很容易的,但是要结构化解析返回结果页面还是一件很费神的事情。

上一篇下一篇

猜你喜欢

热点阅读