python - 如何爬取登錄后的socket連接
問題描述
需要爬取一個(gè)登錄以后的socket連接,這個(gè)socket會不定期的傳數(shù)據(jù)到網(wǎng)頁上,然后我目前只能通過不斷刷新網(wǎng)頁去完成,有沒有什么好的辦法可以去爬取需要網(wǎng)頁登錄后的socket呢?
===繼續(xù)描述:
已實(shí)現(xiàn)的部分模擬登錄 (selenium模擬登錄)
偽造UA,刷新cookies,刷新sessionID(通過不停的登錄登出換cookie,定時(shí)結(jié)束webdriver再重啟來刷新sessionID)
通過Xpath 來獲取頁面的數(shù)據(jù)(lxml)
想要的結(jié)果(未實(shí)現(xiàn))他的socket數(shù)據(jù)是這樣傳給瀏覽器的,我就是想用python搞個(gè)socket client接進(jìn)這個(gè)socket,然后等服務(wù)器推給我數(shù)據(jù).
總的來說,爬一個(gè)時(shí)間點(diǎn)的數(shù)據(jù)并不困難,但是對于長連接的持續(xù)爬蟲,持續(xù)監(jiān)控,響應(yīng)式監(jiān)控我在網(wǎng)上找不到好的辦法,如果是設(shè)置定時(shí)任務(wù)去爬蟲,則當(dāng)采樣周期過小的時(shí)候(小于1秒),則運(yùn)算等成本過高且容易被封掉,有沒有什么好的辦法呢
問題解答
回答1：HTTP是無狀態(tài)的，所以你的登陸以后狀態(tài)是通過傳給服務(wù)器一個(gè)或多個(gè)特殊值（一般在報(bào)文頭的cookie字段里）來確定的。抓一下HTTP包，然后模擬時(shí)帶上這些特殊值就OK了。
更新內(nèi)容：看到它Status Code了，這應(yīng)該是將連接換成websocket了，那么這個(gè)頁面一定是對方來提供的了。你可以看一下頁面的源碼，應(yīng)該會有var ws = new WebSocket('ws://ip:3000'); 之類的內(nèi)容。看一下對方客戶端的要求，然后改寫ws.onmessage回調(diào)函數(shù)，這個(gè)函數(shù)的話內(nèi)容就任你拿捏了，你可以用它來判斷返回了新內(nèi)容或者再去請求另一個(gè)服務(wù)器來處理這些新內(nèi)容。你可以看一下這篇文章 網(wǎng)頁實(shí)時(shí)聊天之PHP實(shí)現(xiàn)websocket 的客戶端部分，試著修改來實(shí)現(xiàn)你的需求。
回答2：找個(gè)websockt客戶端庫連就好了啊
相關(guān)文章：
1. docker-machine添加一個(gè)已有的docker主機(jī)問題2. docker images顯示的鏡像過多，狗眼被亮瞎了，怎么辦？3. 關(guān)docker hub上有些鏡像的tag被標(biāo)記““This image has vulnerabilities””4. css - 求推薦適用于vue2的框架 像bootstrap這種類型的5. Span標(biāo)簽6. SessionNotFoundException：會話ID為null。調(diào)用quit（）后使用WebDriver嗎？（硒）7. angular.js使用$resource服務(wù)把數(shù)據(jù)存入mongodb的問題。8. css - 關(guān)于div自適應(yīng)問題，大家看圖吧，說不清9. redis啟動有問題？10. java - Collections類里的swap函數(shù)，源碼為什么要新定義一個(gè)final的List型變量l指向傳入的list？
網(wǎng)公網(wǎng)安備