PHP快速導(dǎo)出百萬(wàn)級(jí)數(shù)據(jù)到CSV或者EXCEL文件
前言: 很多時(shí)候,因?yàn)閿?shù)據(jù)統(tǒng)計(jì),我們需要將數(shù)據(jù)庫(kù)的數(shù)據(jù)導(dǎo)出到Excel等文件中,以供數(shù)據(jù)人員進(jìn)行查看,如果數(shù)據(jù)集不大,其實(shí)很容易;但是如果對(duì)于大數(shù)集的導(dǎo)出,將要考慮各種性能的問(wèn)題,這里以導(dǎo)出數(shù)據(jù)庫(kù)一百萬(wàn)條數(shù)據(jù)為例,導(dǎo)出時(shí)間不過(guò)20秒,值的學(xué)習(xí)的一種大數(shù)據(jù)導(dǎo)出方式。
一、導(dǎo)出思路
- 需要考慮服務(wù)器內(nèi)存
- 需要考慮程序運(yùn)行的最大時(shí)間
- 缺少BOM頭導(dǎo)致亂碼的處理
- 如果導(dǎo)出數(shù)量過(guò)大,推薦使用循環(huán)導(dǎo)出,每次循環(huán)這里以導(dǎo)出一萬(wàn)條為例,循環(huán)100次即可全部導(dǎo)出
二、導(dǎo)出源碼
- 下面源碼將數(shù)據(jù)庫(kù)信息修改成自己的即可使用
- 親測(cè)導(dǎo)出一百萬(wàn)條數(shù)據(jù),3個(gè)字段,不過(guò)20秒
- 如果服務(wù)器硬件不支持一次讀取一萬(wàn)條數(shù)據(jù),可將循環(huán)次數(shù)提高,導(dǎo)出數(shù)量降低
<?php //讓程序一直運(yùn)行 set_time_limit(0); //設(shè)置程序運(yùn)行內(nèi)存 ini_set('memory_limit', '128M'); $fileName = '測(cè)試導(dǎo)出數(shù)據(jù)'; header('Content-Encoding: UTF-8'); header("Content-type:application/vnd.ms-excel;charset=UTF-8"); header('Content-Disposition: attachment;filename="' . $fileName . '.csv"'); //打開(kāi)php標(biāo)準(zhǔn)輸出流 $fp = fopen('php://output', 'a'); //添加BOM頭,以UTF8編碼導(dǎo)出CSV文件,如果文件頭未添加BOM頭,打開(kāi)會(huì)出現(xiàn)亂碼。 fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF)); //添加導(dǎo)出標(biāo)題 fputcsv($fp, ['姓名', '年齡', '地區(qū)']); //鏈接數(shù)據(jù)庫(kù) $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8"; $pdo = new PDO($dsn, 'root', ''); $step = 100; //循環(huán)次數(shù) $nums = 10000; //每次導(dǎo)出數(shù)量 for($i = 0; $i < $step; $i++) { $start = $i * 10000; $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}"; $pdostatement = $pdo->query($sql); $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC); foreach ($result as $item) { fputcsv($fp, $item); } //每1萬(wàn)條數(shù)據(jù)就刷新緩沖區(qū) ob_flush(); flush(); }
三、快速生成百萬(wàn)條測(cè)試數(shù)據(jù)
這里推薦數(shù)據(jù)庫(kù)的蠕蟲復(fù)制命令
先建好表后,插2條測(cè)試數(shù)據(jù)后,執(zhí)行幾次下列命令,即可指數(shù)增長(zhǎng)
INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;
到此這篇關(guān)于PHP快速導(dǎo)出百萬(wàn)級(jí)數(shù)據(jù)到CSV或者EXCEL文件的文章就介紹到這了,更多相關(guān)PHP 導(dǎo)出百萬(wàn)級(jí)數(shù)據(jù)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
PHP實(shí)現(xiàn)WebSocket實(shí)例詳解
這篇文章主要介紹了PHP實(shí)現(xiàn)WebSocket實(shí)例詳解,本篇文章通過(guò)簡(jiǎn)要的案例,講解了該項(xiàng)技術(shù)的了解與使用,以下就是詳細(xì)內(nèi)容,需要的朋友可以參考下2021-09-09ThinkPHP5&5.1框架關(guān)聯(lián)模型分頁(yè)操作示例
這篇文章主要介紹了ThinkPHP5&5.1框架關(guān)聯(lián)模型分頁(yè)操作,結(jié)合實(shí)例形式分析了thinkPHP5、5.1關(guān)聯(lián)模型的建立、控制器、模型的實(shí)現(xiàn)及分頁(yè)操作相關(guān)技巧,需要的朋友可以參考下2019-08-08PHP使用CURL獲取302跳轉(zhuǎn)后的地址實(shí)例
這篇文章主要介紹了PHP使用CURL獲取302跳轉(zhuǎn)后的地址實(shí)例,需要的朋友可以參考下2014-05-05Laravel核心解讀之異常處理的實(shí)踐過(guò)程
這篇文章主要給大家介紹了關(guān)于Laravel核心解讀之異常處理的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-02-02stripos函數(shù)知識(shí)點(diǎn)實(shí)例分享
在本篇內(nèi)容中我們給大家分享了關(guān)于stripos函數(shù)知識(shí)點(diǎn)實(shí)例內(nèi)容,有需要的朋友們跟著學(xué)習(xí)下。2019-02-02YII中Ueditor富文本編輯器文件和圖片上傳的配置圖文教程
本文主要給大家介紹了YII中Ueditor富文本編輯器文件和圖片上傳的配置圖文教程,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友可以參考下2017-03-03Laravel框架實(shí)現(xiàn)的批量刪除功能示例
這篇文章主要介紹了Laravel框架實(shí)現(xiàn)的批量刪除功能,結(jié)合實(shí)例形式分析了Laravel框架批量刪除功能相關(guān)的前端界面布局及后臺(tái)控制器實(shí)現(xiàn)技巧,需要的朋友可以參考下2019-01-01UPUPW 更新 64 位 Apache 系列 PHP 7.0 正式版
這篇文章主要介紹了UPUPW 更新 64 位 Apache 系列 PHP 7.0 正式版的相關(guān)資料,需要的朋友可以參考下2015-12-12linux實(shí)現(xiàn)php定時(shí)執(zhí)行cron任務(wù)詳解
linux實(shí)現(xiàn)php定時(shí)執(zhí)行cron任務(wù)2013-12-12