PHP讀取CSV大文件導入數(shù)據(jù)庫的實例
PHP如何對CSV大文件進行讀取并導入數(shù)據(jù)庫?
對于數(shù)百萬條數(shù)據(jù)量的CSV文件,文件大小可能達到數(shù)百M,如果簡單讀取的話很可能出現(xiàn)超時或者卡死的現(xiàn)象。
為了成功將CSV文件里的數(shù)據(jù)導入數(shù)據(jù)庫,分批處理是非常必要的。
下面這個函數(shù)是讀取CSV文件中指定的某幾行數(shù)據(jù):
/** * csv_get_lines 讀取CSV文件中的某幾行數(shù)據(jù) * @param $csvfile csv文件路徑 * @param $lines 讀取行數(shù) * @param $offset 起始行數(shù) * @return array * */ function csv_get_lines($csvfile, $lines, $offset = 0) { if(!$fp = fopen($csvfile, 'r')) { return false; } $i = $j = 0; while (false !== ($line = fgets($fp))) { if($i++ < $offset) { continue; } break; } $data = array(); while(($j++ < $lines) && !feof($fp)) { $data[] = fgetcsv($fp); } fclose($fp); return $data; }
調用方法:
$data = csv_get_lines('path/bigfile.csv', 10, 2000000); print_r($data);
函數(shù)主要采用行定位的思路,通過跳過起始行數(shù)來實現(xiàn)文件指針定位。
至于數(shù)據(jù)如何入庫本文不再詳細講述。
上述函數(shù)對500M以內的文件進行過測試,運行通暢,對于更大的文件未做測試,請斟酌使用或加以改進。
這篇PHP讀取CSV大文件導入數(shù)據(jù)庫的實例就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
淺析THINKPHP的addAll支持的最大數(shù)據(jù)量
這篇文章主要介紹了THINKPHP的addAll支持的最大數(shù)據(jù)量,需要的朋友可以參考下2015-02-02Codeigniter實現(xiàn)發(fā)送帶附件的郵件
這篇文章主要介紹了Codeigniter實現(xiàn)發(fā)送帶附件的郵件的方法,涉及Codeigniter中attach方法的使用技巧,非常具有實用價值,需要的朋友可以參考下2015-03-03