国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁(yè)技術(shù)文章
文章詳情頁(yè)

python - pyspider爬取了接近1G的數(shù)據(jù),無(wú)法導(dǎo)出csv?

瀏覽:107日期:2022-08-09 10:42:46

問(wèn)題描述

已經(jīng)增加虛擬機(jī)內(nèi)存至2g,依然無(wú)法導(dǎo)出。

問(wèn)題解答

回答1:

一般是分文件導(dǎo)出的,如果一個(gè)單位的數(shù)據(jù)大約是1M的話,就分成1024個(gè)文件。

另外,合成1G的csv也是不合實(shí)際的,因?yàn)?G的csv幾乎是打不開的。如果實(shí)在是要合成1G的話,把導(dǎo)出的一千多個(gè)文件再合成為一份CSV即可,文件合成python很容易實(shí)現(xiàn)。

回答2:

1G的數(shù)據(jù)月CSV處理本身就不太合理了。試試看sqlite3。

回答3:

8G一樣不夠,建議選擇數(shù)據(jù)庫(kù)作為存儲(chǔ)方案,1G規(guī)模的CSV是沒(méi)有存在的意義的。

回答4:

用ftp內(nèi)網(wǎng)下載飛快.我前兩天傳8個(gè)g.感覺(jué)就是幾分鐘就下載好了

標(biāo)簽: Python 編程
主站蜘蛛池模板: 国产日产高清欧美一区二区三区 | 最新亚洲国产有精品 | 欧美一级情欲片在线 | 国产精品夜色视频一级区 | 中文字幕在线观看一区 | 国产一级特黄aa级特黄裸毛片 | 国产欧美日韩成人 | 91精品国产色综合久久不 | 91久久国产综合精品女同国语 | 久草手机在线观看 | 亚洲日本va午夜中文字幕 | 成人亚洲国产精品久久 | 久久一日本道色综合久 | 日韩欧美理论 | 99久久精品免费看国产一区二区三区 | 国产综合亚洲专区在线 | 美女一级免费毛片 | 国产精品久久久久久网站 | 国产l精品国产亚洲区久久 国产tv在线 | 91青草久久久久久清纯 | 色aaa| 久久厕所视频 | 99毛片 | a级毛片免费高清视频 | 成人69视频在线观看免费 | 天堂素人搭讪系列嫩模在线观看 | 日本特一级毛片免费视频 | 成人免费视频日本 | 亚洲综合成人网在线观看 | 国内自拍小视频 | 无码孕妇孕交在线观看 | 国产精品a区 | 91久久线看在观草草青青 | 欧美一级特黄高清免费 | 久久国产精品99久久久久久牛牛 | 亚州a| 国产免费一区二区三区免费视频 | 国产男女爽爽爽免费视频 | 国产区一区 | 亚洲国产成人久久三区 | 国产欧美网站 |