jsoup是一款java的HTML解析器,主要用來對HTML解析。 官網 中文文檔
在爬蟲的時候,當我們用HttpClient之類的框架,獲取到網頁源碼之後,需要從網頁源碼中取出我們想要的內容,
就可以使用jsoup這類HTML解析器了。可以非常輕松的實現。
雖然jsoup也支持從某個地址直接去爬取網頁源碼,但是只支持HTTP,HTTPS協議,支持不夠豐富。
所以,主要還是用來對HTML進行解析。
◆其中,要被解析的HTML可以是一個HTML的字元串,可以是一個URL,可以禪困是一個文件。
org.jsoup.Jsoup把輸入的HTML轉換成一個org.jsoup.nodes.Document對象,然後從Document對象中取出想要的元素。
org.jsoup.nodes.Document繼承了org.jsoup.nodes.Element,Element又繼承了org.jsoup.nodes.Node類。裡面提供了豐富的方法來獲取HTML的元素。
◇從URL獲取HTML來解析
其中Jsoup.connect("xxx")方法返回一個org.jsoup.Connection對象。
在Connection對象中,我們可以執行get或者post來執行請求。但是在執行請求之前,
我們可以使用Connection對象來設置一些請求信息。比如:頭信息,cookie,請求等待時間,代理等等來模擬瀏覽器的行為。
◆獲得Document對象後,接下來就是解析Document對象,並從中獲取我們想要的元素了。
Document中提供了豐富的方法來獲取指定元素。
◇使用DOM的方式來取得
getElementById(String id):通過id來獲取
getElementsByTag(String tagName):通過標簽名字來獲取
getElementsByClass(String className):通過類名來獲取
getElementsByAttribute(String key):通過屬性名字來獲取
getElementsByAttributeValue(String key, String value):通過指定的屬性名字,屬性值來獲取
getAllElements():獲取所有元素
◇通過類似於css或jQuery的選擇器來查找元素
使用的是Element類的下記方法:
public Elements select(String cssQuery)
通過傳入一個類似於CSS或jQuery的選擇器字元串,來查找指定元素。
例子:
選擇器的更多語法(可以在org.jsoup.select.Selector中查看到更多關於選擇器的語法):
tagname: 通過標簽查找元素,比如:a
ns|tag: 通過標簽在命名空間查找元素,比如:可以用 fb|name 語法碼桐來查找 <fb:name> 元素
#id: 通過ID查找元素,比如:#logo
.class: 通過class名稱查遲襲坦找元素,比如:.masthead
[attribute]: 利用屬性查找元素,比如:[href]
[^attr]: 利用屬性名前綴來查找元素,比如:可以用[^data-] 來查找帶有HTML5 Dataset屬性的元素
[attr=value]: 利用屬性值來查找元素,比如:[width=500]
[attr^=value], [attr$=value], [attr=value]: 利用匹配屬性值開頭、結尾或包含屬性值來查找元素,比如:[href=/path/]
[attr~=regex]: 利用屬性值匹配正則表達式來查找元素,比如: img[src~=(?i).(png|jpe?g)]
*: 這個符號將匹配所有元素
Selector選擇器組合使用
el#id: 元素+ID,比如: div#logo
el.class: 元素+class,比如: div.masthead
el[attr]: 元素+class,比如: a[href]
任意組合,比如:a[href].highlight
ancestor child: 查找某個元素下子元素,比如:可以用.body p 查找在"body"元素下的所有 p元素
parent > child: 查找某個父元素下的直接子元素,比如:可以用div.content > p 查找 p 元素,也可以用body > * 查找body標簽下所有直接子元素
siblingA + siblingB: 查找在A元素之前第一個同級元素B,比如:div.head + div
siblingA ~ siblingX: 查找A元素之前的同級X元素,比如:h1 ~ p
el, el, el:多個選擇器組合,查找匹配任一選擇器的唯一元素,例如:div.masthead, div.logo
偽選擇器selectors
:lt(n): 查找哪些元素的同級索引值(它的位置在DOM樹中是相對於它的父節點)小於n,比如:td:lt(3) 表示小於三列的元素
:gt(n):查找哪些元素的同級索引值大於n,比如: div p:gt(2)表示哪些div中有包含2個以上的p元素
:eq(n): 查找哪些元素的同級索引值與n相等,比如:form input:eq(1)表示包含一個input標簽的Form元素
:has(seletor): 查找匹配選擇器包含元素的元素,比如:div:has(p)表示哪些div包含了p元素
:not(selector): 查找與選擇器不匹配的元素,比如: div:not(.logo) 表示不包含 class="logo" 元素的所有 div 列表
:contains(text): 查找包含給定文本的元素,搜索不區分大不寫,比如: p:contains(jsoup)
:containsOwn(text): 查找直接包含給定文本的元素
:matches(regex): 查找哪些元素的文本匹配指定的正則表達式,比如:div:matches((?i)login)
:matchesOwn(regex): 查找自身包含文本匹配指定正則表達式的元素
注意:上述偽選擇器索引是從0開始的,也就是說第一個元素索引值為0,第二個元素index為1等
◆通過上面的選擇器,我們可以取得一個Elements對象,它繼承了ArrayList對象,裡面放的全是Element對象。
接下來我們要做的就是從Element對象中,取出我們真正需要的內容。
通常有下面幾種方法:
◇Element.text()
這個方法用來取得一個元素中的文本。
◇Element.html()或Node.outerHtml()
這個方法用來取得一個元素中的html內容
◇Node.attr(String key)
獲得一個屬性的值,例如取得超鏈接<a href="">中href的值
json字元串-數組類型與JSONArray之間的轉換
復雜json格式字元串與JSONObject之間的轉換
② jsoup 怎麼拿某個div下的的內容
Document doc = Jsoup.parse(html),html就是指包含你需要的div的那段html代碼,然後再Elements el = doc.select("div"),如果這個div有class=abc,或者id=abc,或者其它的屬性attr=abc,那麼你就這么選,doc.select("div[AttrName=abc]"),AttrName就是指class,id或者其它的屬性名稱,網路回答不允許直接貼鏈接,所以你最好再搜索下Jsoup的API,讀一讀,Selector類的文檔有實例.
③ jsoup解析html的table中的內容
public void parse(){
String htmlStr = "<table id=kbtable >"
+ "<tr> "
+ "<td width=123>"
+ "<div id=12>這里是要獲取的數據1</div>"
+ "<div id=13>這里是要獲取的數據2</div>"
+ "</td>"
+ "<td width=123>"
+ "<div id=12>這里是要獲取的數據3</div>"
+ "<div id=13>這里是要獲取的數據4</div>"
+ "</td> "
+ "</tr>"
+ "</table>";
Document doc = Jsoup.parse(htmlStr);
// 根據id獲取table
Element table = doc.getElementById("kbtable");
// 使用選擇器選擇該table內所有的<tr> <tr/>
Elements trs = table.select("tr");
//遍歷該表格內的所有的<tr> <tr/>
for (int i = 0; i < trs.size(); ++i) {
// 獲取一個tr
Element tr = trs.get(i);
// 獲取該行的所有td節點
Elements tds = tr.select("td");
// 選擇某一個td節點
for (int j = 0; j < tds.size(); ++j) {
Element td = tds.get(j);
// 獲取td節點的所有div
Elements divs = td.select("div");
// 選擇一個div
for (int k = 0; k < divs.size(); k++) {
Element div = divs.get(k);
//獲取文本信息
String text = div.text();
//輸出到控制台
System.out.println(text);
}
}
}
}
④ 用JSOUP解析HTML,怎樣刪除掉其中的一段DIV標簽及內容
換個角度,不刪除,只是用的時候直接用continue忽視掉;
Elements els = doc.getElementsByTag("div");
foreach(Element el :els)
{
if(el == els.get(1)) //如果是頁面中第2個div,直接跳到下一輪循環內,不執行下面的容操作
{
continue;
}
//其他操作
}
⑤ jsoup的select怎麼選擇div里多個元素
你的div肯定設置定位關系了,那你也給select一個定位,然後z-index的數值要大於該div可以了,如果還不行就網路hi我 願意幫你解決,我一直在線
⑥ 用jsoup解析獲取一段網頁內容的問題
這段html實際上是不符合規范的。在用jsoup解析時會出現問題。
我想到一個辦法解決這個問題。
首先我想你應該是想得到標題、館藏復本的數目、可借復本的數目、朱印宏編著和長江出版社。
所以我們先把上面html裡面的文字全部得到即:
java開發解析館藏復本:3可借復本:0朱印宏編著長江出版社
然後我想在這段文字中「館藏復本:」、「可借復本:」、「編著」這幾個字應該是固定不變的。所以我們可以用正則表達式去對它進行解析,得到你想要的文字。
代碼如下:
publicclassTest{
publicstaticvoidmain(String[]args){
Stringhtml="<divclass="list_books"id="list_books"><td>java開發解析</td><p><span><strong>館藏復本:</strong>3<br/><strong>可借復本:</strong>0</span>朱印宏編著<br/>長江出版社</p></div>";
Documentdoc=Jsoup.parse(html);
Stringe=doc.select("#list_books").text().replaceAll("[\s]+","");
//System.out.println(e);
Patternp=Pattern.compile("^(.*)館藏復本:([\d]+)可借復本:([\d]+)(.*)編著(.*)$");
Matcherm=p.matcher(e);
if(m.find()){
for(inti=1;i<=m.groupCount();i++){
System.out.println(m.group(i));
}
}
}
}
如果如下:
java開發解析
3
0
朱印宏
長江出版社
⑦ jsoup 中取div id標簽用#,取class標簽用. 那麼取style標簽用什麼
例:document.select("tr[style="BACKGROUND:white"]")