国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術文章
文章詳情頁

Python爬蟲requests庫多種用法實例

瀏覽:29日期:2022-07-24 10:21:09

requests安裝和使用

下載安裝:pip install requests

#requests模塊import requests#發送請求 content:以二進制的形式獲取網頁的內容response=requests.get('http://www.baidu.com').content.decode()#response=requests.request('get','http://www.baidu.com').content.decode()print(response)

添加請求頭和參數

import requestsurl='http://www.baidu.com/s?'headers={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'}wd={'wd':'中國'}response=requests.get(url,params=wd,headers=headers)# 返回一個字符串形式的數據data=response.text# 返回一個二進制形式的數據data2=response.contentprint(data2.decode())

處理Post請求

處理get請求:get()方法

處理post請求:post()方法

import requestsimport re#構造請求頭信息header={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36'}#谷歌瀏覽器#http://fanyi.youdao.com/translate_o?smartresult=dict&smartresult=rule 網頁上的urlurl='http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule'key='靚仔'#發送到web服務器的表單數據formdata={'i':key,'from':'AUTO','to':'AUTO','smartresult':'dict','client':'fanyideskweb','salt':'15880563488791','sign':'cc2c40d740538fc5edc0380891faef27','ts':'1588053583943','bv':'f9c86b1fdf2f53c1fefaef343285247b','doctype':'json','version':'2.1','keyfrom':'fanyi.web','action':'FY_BY_REALTlME'}response=requests.post(url,headers=header,data=formdata)# 獲取到的是json數據# 對應的是字典# print(response.json())pat=r’'tgt':'(.*?)'}]]’ #字符串中有'',再用’’括起來表示字符串# 獲取到的是字符串result=re.findall(pat,response.text)print(result[0])

代理IP

import requests#設置ip地址#proxy={'http':'http://代理ip地址:端口號'}#可以設置多個proxy={'http':'http://222.82.130.23:8060','http':'http://101.248.64.68:80',}response=requests.get('http://www.baidu.com',proxies=proxy)print(response.content.decode())

獲取響應的cookie

cookie:用戶信息

import requestsresponse=requests.get('http://www.baidu.com')#1.獲取返回的cooketjar對象cookiejar=response.cookies#2.將cookiejar轉換成字典cookiedict=requests.utils.dict_from_cookiejar(cookiejar)print(cookiedict)

session實現登陸

相比直接使用cookie,創建session可以得到新的cookie信息,不會出現cookie失效的情況

#使用session實現登陸import requests#構造請求頭信息header={'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36'}#谷歌瀏覽器#創建session對象ses=requests.session()#構造登陸需要的參數data={'email':'325*****@qq.com','password':'123321a'}#通過傳遞用戶名密碼得到cookie信息ses.post('http://www.renren.com/PLogin.do',data=data,headers=header)#請求需要的頁面,每次請求會帶入cookie信息response=ses.get('http://www.renren.com/880151247/profile')print(response.text)

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 特级a欧美孕妇做爰片毛片 特级a欧美做爰片毛片 | 手机看黄av免费网址 | 亚洲理论片在线观看 | 噜噜噜狠狠夜夜躁精品 | 国产精品久久久久影视不卡 | 91亚洲精品一区二区福利 | 操她视频网站 | 亚洲成人自拍网 | 一级一片一_级一片一 | 国产看午夜精品理论片 | 精品久久久久久久久久久 | 全免费a级毛片免费看不卡 全免费毛片在线播放 | 97超级碰碰碰久久久观看 | 一级欧美视频 | 欧美级毛片 | 亚洲国产第一区二区香蕉日日 | 国产一及毛片 | 日本免费一二区视频 | 色播亚洲视频在线观看 | 99久久香蕉国产综合影院 | 加勒比日本道 | 中国一级毛片欧美一级毛片 | a级毛片高清免费视频 | 欧美专区在线视频 | 日本在线观看www免费 | 国产成年人在线观看 | 亚洲精品一区二区三区第四页 | 亚洲一区二区三区首页 | 精品国产无限资源免费观看 | 九九99久麻豆精品视传媒 | 视频在线二区 | 美女国产福利视频 | 91精品啪在线观看国产91九色 | a毛片在线看片免费 | 亚洲免费专区 | 国产成人精品一区二区不卡 | 久久久免费 | 最新亚洲情黄在线网站无广告 | 中文乱码一二三四有限公司 | 亚洲伊人色综合网站小说 | 成人午夜性a一级毛片美女 成人午夜亚洲影视在线观看 |