国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術(shù)文章
文章詳情頁

python - pyspider爬取了接近1G的數(shù)據(jù),無法導(dǎo)出csv?

瀏覽:76日期:2022-08-09 10:42:46

問題描述

已經(jīng)增加虛擬機(jī)內(nèi)存至2g,依然無法導(dǎo)出。

問題解答

回答1:

一般是分文件導(dǎo)出的,如果一個單位的數(shù)據(jù)大約是1M的話,就分成1024個文件。

另外,合成1G的csv也是不合實際的,因為1G的csv幾乎是打不開的。如果實在是要合成1G的話,把導(dǎo)出的一千多個文件再合成為一份CSV即可,文件合成python很容易實現(xiàn)。

回答2:

1G的數(shù)據(jù)月CSV處理本身就不太合理了。試試看sqlite3。

回答3:

8G一樣不夠,建議選擇數(shù)據(jù)庫作為存儲方案,1G規(guī)模的CSV是沒有存在的意義的。

回答4:

用ftp內(nèi)網(wǎng)下載飛快.我前兩天傳8個g.感覺就是幾分鐘就下載好了

標(biāo)簽: Python 編程
主站蜘蛛池模板: 免费人欧美成又黄又爽的视频 | 日韩二区三区 | 在线精品一区二区三区 | 97久久精品视频 | 三级网站视频在线观看 | 国内精品久久国产大陆 | 日本a级在线 | 亚洲精品字幕一区二区三区 | 日本不卡免费高清视频 | 一级毛片美国aaj毛片 | 黄色毛片视频在线观看 | 兔子先生节目在线观看免费 | 欧美成人免费香蕉 | 一本久| 日本成人免费观看 | 久久精品视频免费播放 | 久久在线免费 | 欧美日韩综合网在线观看 | 波多野结衣一区二区 | 99精品视频在线在线视频观看 | 97成人在线 | 99在线观看巨臀大臀视频 | 颜值超高的女神啪啪 | 国产久草视频在线 | 亚洲国产精品一区二区不卡 | 91中文字幕网 | 九九综合九九综合 | 亚洲欧洲日产国码二区在线 | 一区二区网站 | 久艹视频在线免费观看 | 国产younv真实 | 国产片在线天堂av | 欧美色视频日本片免费高清 | 韩国毛片 免费 | 国产午夜精品一区二区三区不卡 | 久国产| 久草影视在线观看 | 日韩三级视频在线 | 久青草国产手机在线观 | 成人毛片在线视频 | 欧美中文字幕在线视频 |