主頁 > 知識庫 > 采集原理---采集技術(shù)篇---XMLHTTP

采集原理---采集技術(shù)篇---XMLHTTP

熱門標(biāo)簽:武夷山旅游地圖標(biāo)注 外呼系統(tǒng)API接口 修改地圖標(biāo)注 鳳臺百度地圖標(biāo)注店 個人可以辦理400電話么 萊西電子地圖標(biāo)注 縣域地圖標(biāo)注打印店 金昌電話機(jī)器人價格 怎么在地圖標(biāo)注自己
最近一段時間,采集很熱門,從新聞小偷,到音樂小偷,到新聞采集,F(xiàn)lash采集,都有他的蹤影,現(xiàn)在還有很多的人對采集都很感興趣,為了服務(wù)大家,我也正在寫一套采集程序,名字為 心意采集程序 ,現(xiàn)在我講一下,采集用到的相關(guān)技術(shù)。


下面講到的也不是很高深的XMLHTTP技術(shù),我也是稍稍講一下,一個采集需要用到的幾塊內(nèi)容
如果你需要了解更多的問題,請去www.google.com 搜索 XMLHTTP 技術(shù) 你將會得到更多的幫助,如果大家有什么疑問的話,可以在論壇上回貼

下面只講到如何在網(wǎng)上得到數(shù)據(jù),并不涉及到數(shù)據(jù)處理 

第一 XMLHTTP 技術(shù)

http://www.0579.info/study/exploitation/net/58685.htm

上面那個地址,那篇文章講的根本原理已經(jīng)很詳細(xì)了,但是我們一般采集的話,剛開始不太需要了解太多。只要實用就可以了,等以后不夠用的時候,再去找相關(guān)文檔也來得急

首先,我們需要建立一個XMLHTTP對象
微軟發(fā)布的xmlhttp組件已經(jīng)有很多的版本了,我知道的就有以下幾種:

"MSXML2.ServerXMLHTTP.4.0"
"MSXML2.ServerXMLHTTP.3.0"
"MSXML2.ServerXMLHTTP"
"MSXML2.XMLHTTP.5.0"
"MSXML2.XMLHTTP.4.0"
"MSXML2.XMLHTTP.3.0"
"MSXML2.XMLHTTP"
"Microsoft.XMLHTTP 


以上有這么多種組件,我們當(dāng)然是需要申請最高版本的對象嘍,那有什么辦法可以實現(xiàn)呢
下面我拿出一段代碼,大家可以看看,他是按最高版本申請XMLHTTP對象的

Dim ArrProgId,Prog,Flag,XmlHttpCom

ArrProgId = array("MSXML2.ServerXMLHTTP.4.0", "MSXML2.ServerXMLHTTP.3.0", "MSXML2.ServerXMLHTTP", "MSXML2.XMLHTTP.5.0", "MSXML2.XMLHTTP.4.0", "MSXML2.XMLHTTP.3.0", "MSXML2.XMLHTTP","Microsoft.XMLHTTP")

For Each Prog In arrProgId
If (IsObjInstalled(Prog) = true) Then
XmlHttpCom = Prog
Exit For
End If
Next


'// summary>
'// Rem 檢查組件是否支持 是返回 True 否返回 False
'// /summary>
Public Function IsObjInstalled(strClassString)
On Error Resume Next

'//設(shè)置初始化值

IsObjInstalled = False
Err = 0

'//測試代碼

Dim xTestObj
Set xTestObj = Server.createObject(strClassString)
If 0 = Err Then IsObjInstalled = True

'//清除所申請的對象

Set xTestObj = Nothing
Err = 0
End Function 


上面那段代碼就是申請到當(dāng)前服務(wù)器支持的最高版本的XMLHTTP對象了

下面我們講一下采集功能函數(shù)


'GetFileText為采集功能函數(shù)
Public Function GetFileText(url) 
on error resume next '有錯誤時繼續(xù)執(zhí)行代碼
Dim http '定義變量
'Set http=Server.createobject(XmlHttpCom) '申請對象 
Set http=Server.createobject("Microsoft.XMLHTTP") '保險起見,寫出一個服務(wù)器一般都支持的版本 
Http.open "GET",url,False '打開對象 用GET方式 等待服務(wù)器響應(yīng)
Http.Send() '發(fā)送
If Http.readystate>4 Then '如果服務(wù)器沒反應(yīng),則退出函數(shù)
Exit Function 
End If 

GetFileText=bytes2BSTR(Http.responseBody,"GB2312") '把得到的數(shù)據(jù)流二進(jìn)制文件 轉(zhuǎn)化成文本字符格式 (GB2312)

Set http=Nothing '刪除對象
If err.number>0 Then err.Clear '如果有錯誤,清除錯誤
End Function


'// summary>
'// 采用 ADODB.Stream 處理采集到的數(shù)據(jù),把二進(jìn)制的文件轉(zhuǎn)成文本字符
'// /summary>
Function Bytes2bStr(vin,cSet)
Dim BytesStream,StringReturn
Set BytesStream = Server.createObject("ADODB.Stream")
BytesStream.Type = 2
BytesStream.Open
BytesStream.WriteText vin
BytesStream.Position = 0
BytesStream.CharSet = cSet
BytesStream.Position = 2
StringReturn =BytesStream.ReadText
BytesStream.close
Set BytesStream = Nothing
Bytes2bStr = StringReturn
End Function


下面我定義一個 路徑變量 URL

URL = "http://ent.sina.com.cn/star/mainland/more.html";

上面是一個網(wǎng)址,如果我們想把上面這個地址采集下來,并顯示出來的話,我們可以這樣操作


URL = "http://ent.sina.com.cn/star/mainland/more.html";

Response.Write GetFileText(URL)


這樣就可以采集到上面網(wǎng)址的內(nèi)容了
是不是很簡單呢

那采集到數(shù)據(jù)之后應(yīng)該怎么操作呢
怎么區(qū)分?jǐn)?shù)據(jù),如果得到你想要的數(shù)據(jù),如果把得到的數(shù)據(jù)入庫呢
這是以后需要分析講解的問題了 入庫要注意的地方,用正表達(dá)式處理數(shù)據(jù)


附上 上面代碼的源文件,大家可以下載下去,運行起來試試,是不是真的能采集到數(shù)據(jù)庫

標(biāo)簽:通遼 上海 涼山 南京 楚雄 赤峰 清遠(yuǎn) 邢臺

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《采集原理---采集技術(shù)篇---XMLHTTP》,本文關(guān)鍵詞  采集,原理,---,技術(shù)篇,---XMLHTTP,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《采集原理---采集技術(shù)篇---XMLHTTP》相關(guān)的同類信息!
  • 本頁收集關(guān)于采集原理---采集技術(shù)篇---XMLHTTP的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章