asp 小偷采集程序原理與常用函數(shù)方法
更新時間:2009年11月23日 00:26:37 作者:
采集程序?qū)嶋H上是通過了XML中的XMLHTTP組件調(diào)用其它網(wǎng)站上的網(wǎng)頁。比如新聞采集程序,很多都是調(diào)用了sina的新聞網(wǎng)頁,并且對其中的html進行了一些替換,同時對廣告也進行了過濾。
用采集程序的優(yōu)點有:無須維護網(wǎng)站,因為采集程序中的數(shù)據(jù)來自其他網(wǎng)站,它將隨著該網(wǎng)站的更新而更新;可以節(jié)省服務(wù)器資源,一般采集程序就幾個文件,所有網(wǎng)頁內(nèi)容都是來自其他網(wǎng)站。缺點有:
不穩(wěn)定,如果目標網(wǎng)站出錯,程序也會出錯,而且,如果目標網(wǎng)站進行升級維護,那么采集程序也要進行相應(yīng)修改;速度,因為是遠程調(diào)用,速度和在本地服務(wù)器上讀取數(shù)據(jù)比起來,肯定要慢一些。
一、事例
下面就XMLHTTP在ASP中的應(yīng)用做個簡單說明
<%
'常用函數(shù)
'1、輸入url目標網(wǎng)頁地址,返回值getHTTPPage是目標網(wǎng)頁的html代碼
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate<>4 then
exit function
end if
getHTTPPage=bytesToBstr(Http.responseBody,"GB2312")
set http=nothing
if err.number<>0 then err.Clear
end function
'2、轉(zhuǎn)換亂瑪,直接用xmlhttp調(diào)用有中文字符的網(wǎng)頁得到的將是亂瑪,可以通過adodb.stream組件進行轉(zhuǎn)換
Function BytesToBstr(body)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = "GB2312" '轉(zhuǎn)換原來默認的UTF-8編碼轉(zhuǎn)換成GB2312編碼,否則直接用XMLHTTP組件調(diào)用有中文字符的網(wǎng)頁得到的將是亂碼
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
'下面試著調(diào)用http://www.google的html內(nèi)容
Dim Url,Html
Url="http://www.google";
Html = getHTTPPage(Url)
Response.write Html
%>
二、幾個常用的函數(shù)
InStr 函數(shù)
描述 返回某字符(string2)串在另一字符串(string1)中第一次出現(xiàn)的位置。
語法 InStr(string1, string2)
例如:
Dim SearchString, SearchChar
SearchString ="http://www.google" ' 要在其中搜索的字符串。
SearchChar = "blue1000" ' 搜索 "blue1000"。
MyBK = Instr(SearchString, SearchChar) ' 返回 8
'如果找不到則返回“0”,例如:
SearchChar = "BK"
MyBK = Instr(SearchString, SearchChar) ' 返回 0
Mid 函數(shù)
描述: 從字符串中返回指定數(shù)目的字符。
語法 Mid(string, start, over)
例如:
Dim MyBK
MyBK = Mid("我們的BK(www.google)設(shè)計", 7, 12) '截取字符串"我們的BK(www.google)設(shè)計"第7個字符以后的12個字符'此時MyBK的值就變成了"www.google"
Replace 函數(shù)
Dim SearchString, SearchChar
SearchString ="我們的BK設(shè)計是一個網(wǎng)站建設(shè)資源網(wǎng)站" ' 要在其中搜索的字符串。
SearchString =Replace(SearchString,"BK設(shè)計","Www.google")'此時SearchString的值就變成了"我們的Www.google是一個網(wǎng)站建設(shè)資源網(wǎng)站"
三、截取指定區(qū)域的HTML代碼
例如我只想獲取以下HTML代碼中"<td>"和"</td>"之間的的文字部分:
<html>
<title>BK(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="Content">BK(www.google)谷歌搜索引擎是個資源多多的站點……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網(wǎng)頁的地址)
start=Instr(StrBK,"<td id=""Content"">") '此處的作用是獲取字符串開始地方的定位。這里要有人問了:原來的代碼是<td id="Content">,怎么你這里調(diào)用的是<td id=""Content"">啊?答案:asp中(準確的說是VBscript中是用兩個雙引號來表示一個雙引號的,因為雙引號對于程序來說是個敏感字符。) over=Instr(StrBK,"…</td></tr>")'此處的作用是獲取字符串結(jié)束地方的定位。'這里又要有人問了:( :程序調(diào)用HTML代碼干嗎前面多出來3個點點"…"?。看穑禾崾荆荷厦嬉恍幸灿幸粋€</td></tr>,如果這里用</td></tr>來定位的話,程序會錯誤地把上面一行的</td></tr>當(dāng)成欲獲取字符串的結(jié)束部分了。 RsBK=mid(StrBK,start,over-start) '此處的作用是取出StrBK中第start個字符到第over個字符之間的字符串。mid函數(shù)前面一節(jié)我也講過了;over-start是為了計算出開始位置和結(jié)束位置之間的距離,也就是字符數(shù)。
response.write(RsBK) '最后輸出程序獲取的內(nèi)容
%>
不要高興的太早,當(dāng)你運行的時候,你會發(fā)現(xiàn)頁面的html代碼有錯誤,為什么呢?因為你獲取的html代碼是:<td id="Content">BK(www.google)谷歌搜索引擎是個資源多多的站點…
看到了吧?有殘缺的HTML代碼?。≡趺崔k呢?start=Instr(StrBK,"<td id=""Content"">")這個語句獲取的是"<td id="Content">"在
StrBK中的位置數(shù),現(xiàn)在我們可以在程序語句的后面加上17,那么程序就會將位置指向<td id="Content">后面的那個字符.
好的,程序?qū)⒏某蛇@樣:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網(wǎng)頁的地址)
start=Instr(StrBK,"<td id=""Content"">") + 17
over=Instr(StrBK,"…</td></tr>") '這里你也可以減去七(-7)把3個點去掉
RsBK=mid(StrBK,start,over-start)
response.write(RsBK)
%>
這樣就OK了,我們就可以將我們想要的東西偷過來顯示在我們自己的頁面了,呵呵~
四、刪掉或修改獲取的字符
將RsBK中的"BK(www.google)"換成"BK":
RsBK=replace(RsBK,"BK(www.google)","BK")
或者直接把"(www.google)"刪掉:
RsBK=replace(RsBK,"(www.google)","")
好了,現(xiàn)在RsBK就變成了:"BK谷歌搜索引擎是個資源多多的站點……"了.但是事實中,有些情況可能replace函數(shù)是不適應(yīng)的,比如我們想把某個字符串里面的所有連接都去掉.連接可能包括很多種類型,replace只能替代其中特定的一個,我們不可能用一個又一個對應(yīng)的replace函數(shù)來替換吧?
不穩(wěn)定,如果目標網(wǎng)站出錯,程序也會出錯,而且,如果目標網(wǎng)站進行升級維護,那么采集程序也要進行相應(yīng)修改;速度,因為是遠程調(diào)用,速度和在本地服務(wù)器上讀取數(shù)據(jù)比起來,肯定要慢一些。
一、事例
下面就XMLHTTP在ASP中的應(yīng)用做個簡單說明
復(fù)制代碼 代碼如下:
<%
'常用函數(shù)
'1、輸入url目標網(wǎng)頁地址,返回值getHTTPPage是目標網(wǎng)頁的html代碼
function getHTTPPage(url)
dim Http
set Http=server.createobject("MSXML2.XMLHTTP")
Http.open "GET",url,false
Http.send()
if Http.readystate<>4 then
exit function
end if
getHTTPPage=bytesToBstr(Http.responseBody,"GB2312")
set http=nothing
if err.number<>0 then err.Clear
end function
'2、轉(zhuǎn)換亂瑪,直接用xmlhttp調(diào)用有中文字符的網(wǎng)頁得到的將是亂瑪,可以通過adodb.stream組件進行轉(zhuǎn)換
Function BytesToBstr(body)
dim objstream
set objstream = Server.CreateObject("adodb.stream")
objstream.Type = 1
objstream.Mode =3
objstream.Open
objstream.Write body
objstream.Position = 0
objstream.Type = 2
objstream.Charset = "GB2312" '轉(zhuǎn)換原來默認的UTF-8編碼轉(zhuǎn)換成GB2312編碼,否則直接用XMLHTTP組件調(diào)用有中文字符的網(wǎng)頁得到的將是亂碼
BytesToBstr = objstream.ReadText
objstream.Close
set objstream = nothing
End Function
'下面試著調(diào)用http://www.google的html內(nèi)容
Dim Url,Html
Url="http://www.google";
Html = getHTTPPage(Url)
Response.write Html
%>
二、幾個常用的函數(shù)
InStr 函數(shù)
描述 返回某字符(string2)串在另一字符串(string1)中第一次出現(xiàn)的位置。
語法 InStr(string1, string2)
例如:
Dim SearchString, SearchChar
SearchString ="http://www.google" ' 要在其中搜索的字符串。
SearchChar = "blue1000" ' 搜索 "blue1000"。
MyBK = Instr(SearchString, SearchChar) ' 返回 8
'如果找不到則返回“0”,例如:
SearchChar = "BK"
MyBK = Instr(SearchString, SearchChar) ' 返回 0
Mid 函數(shù)
描述: 從字符串中返回指定數(shù)目的字符。
語法 Mid(string, start, over)
例如:
Dim MyBK
MyBK = Mid("我們的BK(www.google)設(shè)計", 7, 12) '截取字符串"我們的BK(www.google)設(shè)計"第7個字符以后的12個字符'此時MyBK的值就變成了"www.google"
Replace 函數(shù)
Dim SearchString, SearchChar
SearchString ="我們的BK設(shè)計是一個網(wǎng)站建設(shè)資源網(wǎng)站" ' 要在其中搜索的字符串。
SearchString =Replace(SearchString,"BK設(shè)計","Www.google")'此時SearchString的值就變成了"我們的Www.google是一個網(wǎng)站建設(shè)資源網(wǎng)站"
三、截取指定區(qū)域的HTML代碼
例如我只想獲取以下HTML代碼中"<td>"和"</td>"之間的的文字部分:
<html>
<title>BK(www.google)谷歌搜索引擎</title>
<body>
<table>
<tr><td></td></tr>
<tr><td id="Content">BK(www.google)谷歌搜索引擎是個資源多多的站點……</td></tr>
</table>
</body>
</html>
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網(wǎng)頁的地址)
start=Instr(StrBK,"<td id=""Content"">") '此處的作用是獲取字符串開始地方的定位。這里要有人問了:原來的代碼是<td id="Content">,怎么你這里調(diào)用的是<td id=""Content"">啊?答案:asp中(準確的說是VBscript中是用兩個雙引號來表示一個雙引號的,因為雙引號對于程序來說是個敏感字符。) over=Instr(StrBK,"…</td></tr>")'此處的作用是獲取字符串結(jié)束地方的定位。'這里又要有人問了:( :程序調(diào)用HTML代碼干嗎前面多出來3個點點"…"?。看穑禾崾荆荷厦嬉恍幸灿幸粋€</td></tr>,如果這里用</td></tr>來定位的話,程序會錯誤地把上面一行的</td></tr>當(dāng)成欲獲取字符串的結(jié)束部分了。 RsBK=mid(StrBK,start,over-start) '此處的作用是取出StrBK中第start個字符到第over個字符之間的字符串。mid函數(shù)前面一節(jié)我也講過了;over-start是為了計算出開始位置和結(jié)束位置之間的距離,也就是字符數(shù)。
response.write(RsBK) '最后輸出程序獲取的內(nèi)容
%>
不要高興的太早,當(dāng)你運行的時候,你會發(fā)現(xiàn)頁面的html代碼有錯誤,為什么呢?因為你獲取的html代碼是:<td id="Content">BK(www.google)谷歌搜索引擎是個資源多多的站點…
看到了吧?有殘缺的HTML代碼?。≡趺崔k呢?start=Instr(StrBK,"<td id=""Content"">")這個語句獲取的是"<td id="Content">"在
StrBK中的位置數(shù),現(xiàn)在我們可以在程序語句的后面加上17,那么程序就會將位置指向<td id="Content">后面的那個字符.
好的,程序?qū)⒏某蛇@樣:
<%
……
Dim StrBK,start,over,RsBK
StrBK=getHTTPPage(網(wǎng)頁的地址)
start=Instr(StrBK,"<td id=""Content"">") + 17
over=Instr(StrBK,"…</td></tr>") '這里你也可以減去七(-7)把3個點去掉
RsBK=mid(StrBK,start,over-start)
response.write(RsBK)
%>
這樣就OK了,我們就可以將我們想要的東西偷過來顯示在我們自己的頁面了,呵呵~
四、刪掉或修改獲取的字符
將RsBK中的"BK(www.google)"換成"BK":
RsBK=replace(RsBK,"BK(www.google)","BK")
或者直接把"(www.google)"刪掉:
RsBK=replace(RsBK,"(www.google)","")
好了,現(xiàn)在RsBK就變成了:"BK谷歌搜索引擎是個資源多多的站點……"了.但是事實中,有些情況可能replace函數(shù)是不適應(yīng)的,比如我們想把某個字符串里面的所有連接都去掉.連接可能包括很多種類型,replace只能替代其中特定的一個,我們不可能用一個又一個對應(yīng)的replace函數(shù)來替換吧?
相關(guān)文章
利用xmlhttp和adodb.stream加緩存技術(shù)下載遠程Web文件
利用xmlhttp和adodb.stream加緩存技術(shù)下載遠程Web文件...2006-06-06
使用xmlHttp結(jié)合ASP實現(xiàn)網(wǎng)頁的異步調(diào)用
使用xmlHttp結(jié)合ASP實現(xiàn)網(wǎng)頁的異步調(diào)用...2006-06-06

