Jsoup——爬虫工具的使用

官方API:https://jsoup.org/apidocs/overview-summary.html
加载插件：org.jsoup:jsoup:1.11.1（版本1.11.1）

基本步骤

1.加载源数据取得Document对象
2.选择元素
3.提取数据
加载
在Connect 接口中，定义了很多接口，用于发送各种请求。
例：发送简单的get

 Document doc = Jsoup.connect("http://www.baidu.com").get();

发送简单的post

Document doc = Jsoup.connect("http://example.com")
                .data(Map m)
                .userAgent("Mozilla")
                .cookie("auth", "token")
                .timeout(3000)
                .post();

在请求发送成功后会得到Document 对象，进行下一步操作
当然还可以通过加载其他源，如html文件的String类型,本地的html文件，使用pase()方法即可。如：Document doc = Jsoup.parse(“E:\index.html”);
过滤元素
元素的查找

  通过id：   getElementById(String id)
  通过 标签：   getElementsByTag(String tag)
  通过class名： getElementsByClass(String className)
  通过属性： getElementsByAttribute(String key) (and related methods)
  通过节点 ： 所有兄弟节点siblingElements(),第一个 firstElementSibling(), 最后一个lastElementSibling();下一个 nextElementSibling(),上一个 previousElementSibling()，父节点parent(), 子节点children(), 第?个子节点child(int index)

例

//因为id是唯一的，所以通过id查找得到的是Element，而通过其他的得到的时Elements，需要对其遍历
 Element idel = doc.getElementById("loginForm");
 Elements inputElements = idel.getElementsByTag("input");
    for (Element inputElement : inputElements) {
            String key = inputElement.attr("name");
            String value = inputElement.attr("value");
            System.out.println("Param name: "+key+" \nParam value: "+value);
        }     

当然，还可以通过选择器Selector，更加精确的查找元素
常用的

     tagname: 通过标签查找元素，比如：a
     ns|tag: 通过标签在命名空间查找元素，比如：可以用 fb|name 语法来查找 <fb:name> 元素
     #id: 通过ID查找元素，比如：#logo
     .class: 通过class名称查找元素，比如：.masthead
     [attribute]: 利用属性查找元素，比如：[href]
     [^attr]: 利用属性名前缀来查找元素，比如：可以用[^data-] 来查找带有HTML5 Dataset属性的元素
     [attr=value]: 利用属性值来查找元素，比如：[width=500]
     //使用正则表达式
     [attr~=regex]: 利用属性值匹配正则表达式来查找元素，比如： img[src~=(?i)\.(png|jpe?g)]
     *: 这个符号将匹配所有元素

  //组合使用
     el#id: 元素+ID，比如： div#logo
     el.class: 元素+class，比如： div.masthead
     el[attr]: 元素+class，比如： a[href]
     任意组合，比如：a[href].highlight
     ancestor child: 查找某个元素下子元素，比如：可以用.body p 查找在"body"元素下的所有 p元素
     parent > child: 查找某个父元素下的直接子元素，比如：可以用div.content > p 查找 p 元素，也可以用body > * 查找body标签下所有直接子元素
     siblingA + siblingB: 查找在A元素之前第一个同级元素B，比如：div.head + div
     siblingA ~ siblingX: 查找A元素之前的同级X元素，比如：h1 ~ p
     el, el, el:多个选择器组合，查找匹配任一选择器的唯一元素，例如：div.masthead, div.logo
     //使用伪选择器selectors
     :lt(n): 查找哪些元素的同级索引值（它的位置在DOM树中是相对于它的父节点）小于n，比如：td:lt(3) 表示小于三列的元素
     :gt(n):查找哪些元素的同级索引值大于n，比如： div p:gt(2)表示哪些div中有包含2个以上的p元素
     :eq(n): 查找哪些元素的同级索引值与n相等，比如：form input:eq(1)表示包含一个input标签的Form元素
     :has(seletor): 查找匹配选择器包含元素的元素，比如：div:has(p)表示哪些div包含了p元素
     :not(selector): 查找与选择器不匹配的元素，比如： div:not(.logo) 表示不包含 class=logo 元素的所有 div 列表
     :contains(text): 查找包含给定文本的元素，搜索不区分大不写，比如： p:contains(jsoup)
     :containsOwn(text): 查找直接包含给定文本的元素
     :matches(regex): 查找哪些元素的文本匹配指定的正则表达式，比如：div:matches((?i)login)
     :matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素
     注意：上述伪选择器索引是从0开始的，也就是说第一个元素索引值为0，第二个元素index为1等

提取数据
一般也就是节点的属性值，文本值等
常用的方法

   //获取页面数据
   title()
  //元素数据获取和设置
     attr(String key)获取属性
     attr(String key, String value)设置属性
     text()获取文本内容
     text(String value) 设置文本内容
     attributes()获取所有属性
     id(), className() and classNames()
     html()获取元素内HTMLhtml(String value)设置元素内的HTML内容
     outerHtml()获取元素外HTML内容
     data()获取数据内容（例如：script和style标签)
     tag() and tagName()

例：抓取节点id为main下所有图片

Document doc = Jsoup.connect("http://www.xxx.com").get();
Element ls = doc.getElementById("main");
Elements imgs= ls.select("img");
            for (Element pic: imgs){
                System.out.println("src : " + pic.attr("src"));
                System.out.println("alt : " + pic.attr("alt"));
            }