快捷導(dǎo)航

PHP多線程抓取網(wǎng)頁實(shí)現(xiàn)代碼

更新時(shí)間：2010年07月22日 01:03:58 作者：

PHP 利用 Curl Functions 可以完成各種傳送文件操作，比如模擬瀏覽器發(fā)送GET，POST請(qǐng)求等等。

受限于php語言本身不支持多線程，所以開發(fā)爬蟲程序效率并不高，這時(shí)候往往需要借助Curl Multi Functions 它可以實(shí)現(xiàn)并發(fā)多線程的訪問多個(gè)url地址。既然 Curl Multi Function如此強(qiáng)大，能否用 Curl Multi Functions 來寫并發(fā)多線程下載文件呢，當(dāng)然可以，下面給出我的代碼：

代碼1：將獲得的代碼直接寫入某個(gè)文件

復(fù)制代碼代碼如下:

 
<?php 
$urls = array( 
'http://www.sina.com.cn/', 
'http://www.sohu.com/', 
'http://www.163.com/' 
); // 設(shè)置要抓取的頁面URL 

$save_to='/test.txt'; // 把抓取的代碼寫入該文件 

$st = fopen($save_to,"a"); 
$mh = curl_multi_init(); 

foreach ($urls as $i => $url) { 
$conn[$i] = curl_init($url); 
curl_setopt($conn[$i], CURLOPT_USERAGENT, "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)"); 
curl_setopt($conn[$i], CURLOPT_HEADER ,0); 
curl_setopt($conn[$i], CURLOPT_CONNECTTIMEOUT,60); 
curl_setopt($conn[$i], CURLOPT_FILE,$st); // 設(shè)置將爬取的代碼寫入文件 
curl_multi_add_handle ($mh,$conn[$i]); 
} // 初始化 

do { 
curl_multi_exec($mh,$active); 
} while ($active); // 執(zhí)行 

foreach ($urls as $i => $url) { 
curl_multi_remove_handle($mh,$conn[$i]); 
curl_close($conn[$i]); 
} // 結(jié)束清理 

curl_multi_close($mh); 
fclose($st); 
?> 

代碼2：將獲得的代碼先放入變量，再寫入某個(gè)文件

復(fù)制代碼代碼如下:

 
<?php 
$urls = array( 
'http://www.sina.com.cn/', 
'http://www.sohu.com/', 
'http://www.163.com/' 
); 

$save_to='/test.txt'; // 把抓取的代碼寫入該文件 
$st = fopen($save_to,"a"); 

$mh = curl_multi_init(); 
foreach ($urls as $i => $url) { 
$conn[$i] = curl_init($url); 
curl_setopt($conn[$i], CURLOPT_USERAGENT, "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)"); 
curl_setopt($conn[$i], CURLOPT_HEADER ,0); 
curl_setopt($conn[$i], CURLOPT_CONNECTTIMEOUT,60); 
curl_setopt($conn[$i],CURLOPT_RETURNTRANSFER,true); // 設(shè)置不將爬取代碼寫到瀏覽器，而是轉(zhuǎn)化為字符串 
curl_multi_add_handle ($mh,$conn[$i]); 
} 

do { 
curl_multi_exec($mh,$active); 
} while ($active); 

foreach ($urls as $i => $url) { 
$data = curl_multi_getcontent($conn[$i]); // 獲得爬取的代碼字符串 
fwrite($st,$data); // 將字符串寫入文件。當(dāng)然，也可以不寫入文件，比如存入數(shù)據(jù)庫 
} // 獲得數(shù)據(jù)變量，并寫入文件 

foreach ($urls as $i => $url) { 
curl_multi_remove_handle($mh,$conn[$i]); 
curl_close($conn[$i]); 
} 

curl_multi_close($mh); 
fclose($st); 
?> 