當(dāng)前位置:首頁(yè) > IT技術(shù) > 編程語(yǔ)言 > 正文

Python爬蟲-Xpath語(yǔ)法與lxml庫(kù)的用法(二)
2022-08-29 23:54:55

一、 安裝

pip方式安裝

pip install lxml

二、 Xpath術(shù)語(yǔ)

2.1 節(jié)點(diǎn)

在 XPath 中,有七種類型的節(jié)點(diǎn):元素、屬性、文本、命名空間、處理指令、注釋以及文檔(根)節(jié)點(diǎn)。XML 文檔是被作為節(jié)點(diǎn)樹來(lái)對(duì)待的。樹的根被稱為文檔節(jié)點(diǎn)或者根節(jié)點(diǎn)。
請(qǐng)看下面這個(gè) XML 文檔:

<?xml version="1.0" encoding="ISO-8859-1"?>

<bookstore>

<book>
  <title lang="en">Harry Potter</title>
  <author>J K. Rowling</author> 
  <year>2005</year>
  <price>29.99</price>
</book>

</bookstore>

上面的XML文檔中的節(jié)點(diǎn)例子:

<bookstore> (根節(jié)點(diǎn))
<author>J K. Rowling</author> (元素節(jié)點(diǎn))
lang="en" (屬性節(jié)點(diǎn)) 

2.2 節(jié)點(diǎn)關(guān)系

父(Parent)
每個(gè)元素以及屬性都有一個(gè)父。
在下面的例子中,book 元素是 title、author、year 以及 price 元素的父:

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

子(Children)
元素節(jié)點(diǎn)可有零個(gè)、一個(gè)或多個(gè)子。
在下面的例子中,title、author、year 以及 price 元素都是 book 元素的子:

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

兄弟(Sibling)

擁有相同的父的節(jié)點(diǎn)
在下面的例子中,title、author、year 以及 price 元素都是兄弟:

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

先輩(Ancestor)
某節(jié)點(diǎn)的父、父的父,等等。
在下面的例子中,title 元素的先輩是 book 元素和 bookstore 元素:

<bookstore>

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

</bookstore>

后代(Descendant)
某個(gè)節(jié)點(diǎn)的子,子的子,等等。
在下面的例子中,bookstore 的后代是 book、title、author、year 以及 price 元素:

2.3 選取節(jié)點(diǎn)

XPath 使用路徑表達(dá)式在 XML 文檔中選取節(jié)點(diǎn)。節(jié)點(diǎn)是通過沿著路徑或者 step 來(lái)選取的。
下面列出了最有用的路徑表達(dá)式:


表達(dá)式

描述
nodename 選取此節(jié)點(diǎn)的所有子節(jié)點(diǎn)
/ 從根節(jié)點(diǎn)選取
// 從匹配選擇的當(dāng)前節(jié)點(diǎn)選擇文檔中的節(jié)點(diǎn),而不考慮它們的位置。
. 選取當(dāng)前節(jié)點(diǎn)
選取當(dāng)前節(jié)點(diǎn)的父節(jié)點(diǎn)
@ 選取屬性

實(shí)例

在下面的表格中,我們已列出了一些路徑表達(dá)式以及表達(dá)式的結(jié)果:

謂語(yǔ)(Predicates)
謂語(yǔ)用來(lái)查找某個(gè)特定的節(jié)點(diǎn)或者包含某個(gè)指定的值的節(jié)點(diǎn)。
謂語(yǔ)被嵌在方括號(hào)中。

實(shí)例

在下面的表格中,我們列出了帶有謂語(yǔ)的一些路徑表達(dá)式,以及表達(dá)式的結(jié)果:

選取未知節(jié)點(diǎn)
XPath 通配符可用來(lái)選取未知的 XML 元素。

?在下面的表格中,我們列出了一些路徑表達(dá)式,以及這些表達(dá)式的結(jié)果:

選取若干路徑
通過在路徑表達(dá)式中使用“|”運(yùn)算符,您可以選取若干個(gè)路徑。

2.4 XPath 實(shí)例

# -*- coding: utf-8 -*-

from lxml import etree


text = """
<div class="wrapper">
    <i class="iconfont icon-back" id="back"></i>
    <a rel="nofollow" href="/" id="channel">新浪社會(huì)</a>
    <ul id="nav">
        <li><a rel="nofollow"  title="國(guó)內(nèi)">國(guó)內(nèi)</a></li>
        <li><a rel="nofollow"  title="國(guó)際">國(guó)際</a></li>
        <li><a rel="nofollow"  title="軍事">軍事</a></li>
        <li><a rel="nofollow"  title="圖片">圖片</a></li>
        <li><a rel="nofollow"  title="社會(huì)">社會(huì)</a></li>
        <li><a rel="nofollow"  title="娛樂">娛樂</a></li>
        <li><a rel="nofollow"  title="科技">科技</a></li>
        <li><a rel="nofollow"  title="體育">體育</a></li>
        <li><a rel="nofollow"  title="財(cái)經(jīng)">財(cái)經(jīng)</a></li>
        <li><a rel="nofollow"  title="汽車">汽車</a></li>
    </ul>
    <i class="iconfont icon-liebiao" id="menu"></i>
</div>
"""

# 創(chuàng)建html對(duì)象
html = etree.HTML(text)

# 獲取所有a標(biāo)簽的href內(nèi)容
results = html.xpath('//a/@href')
print(results)
# 獲取所有id為channel的a標(biāo)簽的href內(nèi)容
results2 = html.xpath('//a[@id="channel"]/@href')
print(results2)
# 獲取所有l(wèi)i標(biāo)簽下的a標(biāo)簽的文本內(nèi)容
results3 = html.xpath('//li/a/text()')
print(results3)

運(yùn)行結(jié)果如下:

['/', 'http://domestic.firefox.sina.com/', 'http://world.firefox.sina.com/', 'http://mil.firefox.sina.com/', 'http://photo.firefox.sina.com/', 'http://society.firefox.sina.com/', 'http://ent.firefox.sina.com/', 'http://tech.firefox.sina.com/', 'http://sports.firefox.sina.com/', 'http://finance.firefox.sina.com/', 'http://auto.firefox.sina.com/']
['/']
['國(guó)內(nèi)', '國(guó)際', '軍事', '圖片', '社會(huì)', '娛樂', '科技', '體育', '財(cái)經(jīng)', '汽車']

  

備注:

Ranorex Selocity 類似firepath的chrome插件  

http://crx4.com/8198.html

?

?

  

  

  

  

  

本文摘自 :https://www.cnblogs.com/

開通會(huì)員,享受整站包年服務(wù)立即開通 >