国产成人精品久久免费动漫-国产成人精品天堂-国产成人精品区在线观看-国产成人精品日本-a级毛片无码免费真人-a级毛片毛片免费观看久潮喷

您的位置:首頁技術文章
文章詳情頁

php使用fputcsv實現大數據的導出操作詳解

瀏覽:79日期:2022-09-11 13:30:03

本文實例講述了php使用fputcsv實現大數據的導出操作。分享給大家供大家參考,具體如下:

為了實驗大數據的導出,我們這里先自已創建一張大表,表結構如下:

CREATE TABLE `tb_users` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT ’用戶ID’, `name` varchar(32) DEFAULT ’’ COMMENT ’用戶名’, `age` tinyint(3) DEFAULT ’0’ COMMENT ’用戶年齡’, `desc` varchar(255) DEFAULT ’’ COMMENT ’用戶描述’, `phone` varchar(11) DEFAULT ’’ COMMENT ’用戶手機’, `qq` varchar(16) DEFAULT ’’ COMMENT ’用戶QQ’, `email` varchar(64) DEFAULT ’’ COMMENT ’用戶郵箱’, `addr` varchar(255) DEFAULT ’’ COMMENT ’用戶地址’, PRIMARY KEY (`id`)) ENGINE=InnoDB DEFAULT CHARSET=utf8;

然后寫個php腳本往這個表插入數據,代碼如下:

<?phpset_time_limit(0);ini_set(’memory_limit’, ’128M’);//使用TP3.2的String類,php7下會報錯,注意把類名換一下require ’./String.class.php’;use OrgUtilNewString;$begin = microtime(true);$db = new mysqli(’127.0.0.1’, ’root’, ’’, ’test’);if($db->connect_error) { die(’connect error’);}//數據插入語句$insSql = ’’;//一百萬數據,分200步,每步插入5000條$step = 200;$nums = 5000;for($s = 0; $s < $step; ++$s) { $insSql = ’INSERT INTO tb_users VALUES’; for($n = 0; $n < $nums; ++$n) { $name = NewString::randString(3, 4); $age = mt_rand(1, 120); $desc = NewString::randString(64, 4); $phone = NewString::randString(11, 1); $qq = NewString::randString(13, 1); $email = $qq . ’@qq.com’; $addr = NewString::randString(128, 4); $insSql .= '(NULL, ’{$name}’, $age, ’{$desc}’, ’{$phone}’, ’{$qq}’, ’{$email}’, ’{$addr}’),'; } $insSql = rtrim($insSql, ’,’); $db->query($insSql);}$end = microtime(true);echo ’用時:’, $end - $begin;$db->close();

里面用到的TP3.2的String類大家自行上TP官網下載。整個用時2個多小時,最后數據大小662M。

現在我們用php提供的fputcsv來導出這一百萬的數據,原理就是打開一個標準輸出流,然后把數據按一萬條來分割,每一萬條就刷新緩沖區。

<?phpset_time_limit(0);ini_set(’memory_limit’, ’128M’);$fileName = date(’YmdHis’, time());header(’Content-Type: application/vnd.ms-execl’);header(’Content-Disposition: attachment;filename='’ . $fileName . ’.csv'’);$begin = microtime(true);//打開php標準輸出流//以寫入追加的方式打開$fp = fopen(’php://output’, ’a’);$db = new mysqli(’127.0.0.1’, ’root’, ’’, ’test’);if($db->connect_error) { die(’connect error’);}//我們試著用fputcsv從數據庫中導出1百萬的數據//我們每次取1萬條數據,分100步來執行//如果線上環境無法支持一次性讀取1萬條數據,可把$nums調小,$step相應增大。$step = 100;$nums = 10000;//設置標題$title = array(’ID’, ’用戶名’, ’用戶年齡’, ’用戶描述’, ’用戶手機’, ’用戶QQ’, ’用戶郵箱’, ’用戶地址’);foreach($title as $key => $item) { $title[$key] = iconv(’UTF-8’, ’GBK’, $item);}//將標題寫到標準輸出中fputcsv($fp, $title);for($s = 1; $s <= $step; ++$s) { $start = ($s - 1) * $nums; $result = $db->query('SELECT * FROM tb_users ORDER BY id LIMIT {$start},{$nums}'); if($result) { while($row = $result->fetch_assoc()) { foreach($row as $key => $item) {//這里必須轉碼,不然會亂碼$row[$key] = iconv(’UTF-8’, ’GBK’, $item); } fputcsv($fp, $row); } $result->free();//每1萬條數據就刷新緩沖區 ob_flush(); flush(); }}$end = microtime(true);echo ’用時:’, $end - $begin;

整個過程用時5分鐘,最終生成的csv文件大小420M。

php使用fputcsv實現大數據的導出操作詳解

php使用fputcsv實現大數據的導出操作詳解

php使用fputcsv實現大數據的導出操作詳解

對于如何用phpexcel導出大數據,并沒有什么比較好的方案,phpexcel提供的一些緩存方法,數據壓縮,雖然內存使用小了,但所用時間則加長了,時間換空間,顯然并不是最好的方案。比較靠譜的方法還是生成多個下載鏈接地址,把你要下載的數據,以get形式傳遞當前頁數,后臺進行數據分頁然后導出。

<a href='http://m.cgvv.com.cn/downSearchData.php?參數1=值1&參數2=值2&page=1' rel='external nofollow' >下載匯總結果1</a><a href='http://m.cgvv.com.cn/downSearchData.php?參數1=值1&參數2=值2&page=2' rel='external nofollow' >下載匯總結果2</a><a href='http://m.cgvv.com.cn/downSearchData.php?參數1=值1&參數2=值2&page=3' rel='external nofollow' >下載匯總結果3</a>

比如你有一個查詢數據表單,ID為searchFrm,然后你想把導出數據按1萬條分割(phpexcel一次導出1萬條是沒有問題的,效率還行)

<form id='searchFrm'> 姓名<input type='text' name='uname'> <input type='button' value='導出匯總結果'></form><div id='searchDataList'></div><script type='script'> $('#searchDataBtn').on('click', function() { var params = $('#searchFrm').serialize();//獲取查詢數據的條數 $.get('/getSearchDataRows?' + params, function(data) { var downDataList = ''; if(data['rows']) {//rows是數據總條數,pageSize是一頁多少條var pageNum = Math.ceil(data['rows'] / data['pageSize']);for(var i = 1; i <= pageNum; ++i) { downDataList += '<a href=’/downSearchData.php?’' + params + '&page=' + i + '>下載匯總結果' + i + '</a>&nbsp;&nbsp;';}$('#searchDataList').html(downDataList); } else {$('#searchDataList').text('沒有數據'); } }, 'json'); return false; });</script>

更多關于PHP相關內容感興趣的讀者可查看本站專題:《php+mysql數據庫操作入門教程》、《php+redis數據庫程序設計技巧總結》、《php面向對象程序設計入門教程》及《php常見數據庫操作技巧匯總》

希望本文所述對大家PHP程序設計有所幫助。

標簽: PHP
相關文章:
主站蜘蛛池模板: 欧美亚洲一区 | 夜色邦合成福利网站 | 日本成本人视频 | 看一级特黄a大片国产 | 日韩成人毛片高清视频免费看 | 久久草在线| 暖暖视频日韩欧美在线观看 | 亚洲欧美另类专区 | 亚洲视频网址 | 欧美精品伊人久久 | 亚欧成人中文字幕一区 | 欧美日本一区亚洲欧美一区 | 欧美高清正版在线 | 国产区一区 | 亚洲精品国产经典一区二区 | 中国japanesevideo乱 | 美女视频黄.免费网址 | 国产成人18黄网站免费 | 国产在线精品福利一区二区三区 | 99re66热这里只有精品免费观看 | 在线免费看黄色 | 2021国产精品自在拍在线播放 | 一区二区三区网站在线免费线观看 | 日韩色综合 | 欧美一级日韩一级亚洲一级 | 国产亚洲视频在线播放大全 | 5x社区直接进入一区二区三区 | 免费一级a毛片免费观看欧美大片 | 亚洲一区二区久久 | 一级一级 a爱片免费视频 | 久热久草| 欧美6699在线视频免费 | 免费国产a国产片高清不卡 免费国产不卡午夜福在线 免费国产不卡午夜福在线观看 | 男女扒开双腿猛进入爽爽视频 | 日韩精品网 | 欧美久在线观看在线观看 | 成年午夜一级毛片视频 | 婷婷尹人香蕉久久天堂 | 国内自拍区| 亚洲欧美日韩国产专区一区 | 国产成人综合网在线观看 |