python訪問抓取網(wǎng)頁(yè)常用命令
簡(jiǎn)單的抓取網(wǎng)頁(yè):
import urllib.request
url="http://google.cn/"
response=urllib.request.urlopen(url) #返回文件對(duì)象
page=response.read()
直接將URL保存為本地文件：
import urllib.request
url="http://google.cn/"
response=urllib.request.urlopen(url) #返回文件對(duì)象
page=response.read()
POST方式：
import urllib.parse
import urllib.request
url="http://liuxin-blog.appspot.com/messageboard/add"
values={"content":"命令行發(fā)出網(wǎng)頁(yè)請(qǐng)求測(cè)試"}
data=urllib.parse.urlencode(values)
#創(chuàng)建請(qǐng)求對(duì)象
req=urllib.request.Request(url,data)
#獲得服務(wù)器返回的數(shù)據(jù)
response=urllib.request.urlopen(req)
#處理數(shù)據(jù)
page=response.read()
GET方式：
import urllib.parse
import urllib.request
url="http://www.google.cn/webhp"
values={"rls":"ig"}
data=urllib.parse.urlencode(values)
theurl=url+"?"+data
#創(chuàng)建請(qǐng)求對(duì)象
req=urllib.request.Request(theurl)
#獲得服務(wù)器返回的數(shù)據(jù)
response=urllib.request.urlopen(req)
#處理數(shù)據(jù)
page=response.read()
有2個(gè)常用的方法,geturl(),info()
geturl()的設(shè)置是為了辨別是否有服務(wù)器端的網(wǎng)址重定向,而info()則包含了一系列的信息。
中文問題的處理，會(huì)用到 encode()編碼 dencode()解碼：
感謝閱讀，希望能幫助到大家，謝謝大家對(duì)本站的支持！
更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號(hào)聯(lián)系： 360901061
您的支持是博主寫作最大的動(dòng)力，如果您喜歡我的文章，感覺我的文章對(duì)您有幫助，請(qǐng)用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點(diǎn)擊下面給點(diǎn)支持吧，站長(zhǎng)非常感激您！手機(jī)微信長(zhǎng)按不能支付解決辦法：請(qǐng)將微信支付二維碼保存到相冊(cè)，切換到微信，然后點(diǎn)擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對(duì)您有幫助就好】元
