亚洲乱码中文字幕综合,中国熟女仑乱hd,亚洲精品乱拍国产一区二区三区,一本大道卡一卡二卡三乱码全集资源,又粗又黄又硬又爽的免费视频

golang如何實(shí)現(xiàn)抓取IP地址的蜘蛛程序詳解

 更新時(shí)間:2018年07月01日 12:05:08   作者:zhoutk  
這篇文章主要給大家介紹了關(guān)于利用golang如何實(shí)現(xiàn)抓取IP地址的蜘蛛程序的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧

背景

要做IP地址歸屬地查詢(xún),量比較大,所以想先從網(wǎng)上找到大部分的分配數(shù)據(jù),寫(xiě)個(gè)蜘蛛程序來(lái)抓取入庫(kù),以后在程序的運(yùn)行中不斷進(jìn)行維護(hù)、更新、完善。

一些關(guān)鍵點(diǎn)

  • goroutine的使用,讓程序并行運(yùn)行。
  • 正則表達(dá)式分組信息提取的使用,正確的提取我們關(guān)注的信息。
  • 數(shù)據(jù)庫(kù)批量插入操作。
  • 數(shù)據(jù)庫(kù)批量更新操作。

代碼解析

按功能模塊對(duì)核心代碼進(jìn)行說(shuō)明

ip.go

主進(jìn)程,實(shí)現(xiàn)goroutine的調(diào)用。

func main() {
 //利用go基本庫(kù)封裝的網(wǎng)頁(yè)抓取函數(shù),后面有說(shuō)明
 ctx := common.HttpGet("http://ips.chacuo.net/") 
 //正則表達(dá)式,有兩個(gè)分組(兩組小括號(hào)),分別取城市信息與url,具體分析代碼后面有說(shuō)明
 reg := regexp.MustCompile(`<li><a title="[\S]+" href='([^']+?)'>([^<]+?)</a></li>`)  
 //取得頁(yè)面上所有的城市及相應(yīng)url
 ips := reg.FindAllStringSubmatch(string(ctx), -1)

 ch := make(chan string) //建立無(wú)緩沖字符串通道

 for _, el := range ips { //一個(gè)協(xié)程處理一個(gè)具體頁(yè)面
  go ipSpider.SpiderOnPage(el[1], el[2], ch)
 }

 for range ips {   //阻塞等待所有抓取工作全部完成
  fmt.Println(<-ch)
 }
}

正則表達(dá)式說(shuō)明

主進(jìn)程針對(duì)所有省有入口頁(yè)面,取得每省的入口分配給一個(gè)協(xié)程去處理,每一個(gè)入口是這個(gè)樣子

<a title="北京最新IP地址段"  rel="external nofollow" >北京</a>
  • 請(qǐng)注意,這里面變化只有三個(gè)部分(title內(nèi)容,href內(nèi)容,鏈接顯示內(nèi)容),其中兩個(gè)部分是我們需要的
  • title內(nèi)容對(duì)應(yīng)正則為 [\S]+ ,非空白符
  • href內(nèi)容對(duì)應(yīng)的正則為 ([^']+?) ,第一次遇到單引號(hào)結(jié)束,問(wèn)號(hào)表示非貪婪匹配,括號(hào)是分組,能方便取出所匹配信息
  • 鏈接顯示內(nèi)容對(duì)應(yīng)的正則為 ([^<]+?) , 第一次遇到<時(shí)結(jié)束,第二個(gè)分組
  • FindAllStringSubmatch函數(shù)可以取出所有子分組,子分組從下標(biāo)1開(kāi)始,0為正則整體匹配的字符串

goroutine 流程

  • 建立一個(gè)無(wú)緩沖字符串通道,作為所有協(xié)程與主進(jìn)程通信通道
  • 循環(huán)正則匹配結(jié)果,為每一個(gè)省的頁(yè)面分配一個(gè)協(xié)程
  • 協(xié)程獲取數(shù)據(jù)成功并批量寫(xiě)數(shù)據(jù)庫(kù),返回成功信息到通道
  • 協(xié)程處理失敗,反回失敗信息到通道
  • 主進(jìn)程阻塞等所有協(xié)程成功或失敗返回,并打印成功或失敗信息

獲取ip地址信息

與主進(jìn)程類(lèi)似,注意無(wú)信息時(shí)處理。

IpSpider.go

 //獲取頁(yè)面數(shù)據(jù)
 ctx := common.HttpGet(url)
 //reg := regexp.MustCompile(`<li><a title="[\S]+" href='([^']+?)'>([^<]+?)</a></li>`)
 //兩個(gè)分組分別對(duì)應(yīng)IP段開(kāi)始與結(jié)束
 reg := regexp.MustCompile(`<dd><span class="v_l">([^<]+?)</span><span class="v_r">([^<]+?)</span><div class="clearfix"></div></dd>`)
 //<dd><span class="v_l">49.64.0.0</span><span class="v_r">49.95.255.255</span><div class="clearfix"></div></dd>
 //取得所有匹配的分組信息
 ip := reg.FindAllStringSubmatch(string(ctx), -1)
 //沒(méi)有取得任何信息,提前返回,很重要,不然主進(jìn)程會(huì)一直等待結(jié)束不了
 if len(ip) == 0 {
  ch <- "There are no data exist."
  return nil
 }

數(shù)據(jù)庫(kù)表結(jié)構(gòu)生成語(yǔ)句

CREATE TABLE `ip_addr_info` (
 `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '索引,自動(dòng)增長(zhǎng)',
 `ip_addr_begin` varchar(32) NOT NULL DEFAULT '' COMMENT 'ip地址段開(kāi)始',
 `ip_addr_end` varchar(32) DEFAULT '' COMMENT 'ip地址段結(jié)束',
 `province` varchar(32) DEFAULT '' COMMENT '所屬省',
 `ip_comp` varchar(32) DEFAULT '' COMMENT '運(yùn)營(yíng)商',
 PRIMARY KEY (`id`),
 UNIQUE KEY `ip_addr` (`ip_addr_begin`,`ip_addr_end`)
) ENGINE=InnoDB AUTO_INCREMENT=7268 DEFAULT CHARSET=utf8 COMMENT='表';

批量寫(xiě)入數(shù)據(jù)庫(kù)

循環(huán)處理抓取數(shù)據(jù),生成批量寫(xiě)入語(yǔ)句及輸入?yún)?shù),請(qǐng)簽到出到afc9ebd版本。

 var vs [] interface{}  //存儲(chǔ)輸入?yún)?shù)的接口數(shù)組
 var vss string    //待拼接的輸入?yún)?shù)占位符字符串
 for _, el := range ip {  //處理所有的數(shù)據(jù)
  vs = append(vs, el[1], el[2], province) //每一列包括開(kāi)始地址、結(jié)束地址與省份
  vss += "(?,?,?),"  //占位符
 }
 vss = vss[0:len(vss) -1]  //去掉最后的逗號(hào)
 var configs interface{}  //從配置文件取數(shù)據(jù)庫(kù)信息
 fr, err := os.Open("./configs.json") //配置文件內(nèi)容請(qǐng)參照上篇文章《golang實(shí)現(xiàn)mysql數(shù)據(jù)庫(kù)備份》
 if err != nil {
  ch <- err.Error()
  return err
 }
 decoder := json.NewDecoder(fr)
 err = decoder.Decode(&configs)

 confs := configs.(map[string]interface{})
 dialect := confs["database_dialect"].(string)

 dbConf := confs["db_"+dialect+"_config"].(map[string]interface{})
 dbHost := dbConf["db_host"].(string)
 dbPort := strconv.FormatFloat(dbConf["db_port"].(float64), 'f', -1, 32)
 dbUser := dbConf["db_user"].(string)
 dbPass := dbConf["db_pass"].(string)
 dbName := dbConf["db_name"].(string)
 dbCharset := dbConf["db_charset"].(string)

 dao, err := mysql.Open(dialect, dbUser + ":"+dbPass+"@tcp("+dbHost+":"+dbPort+")/"+dbName+"?charset="+dbCharset)
 defer dao.Close()
 if err != nil {
  ch <- err.Error()
  return err
 }
 //批量插入語(yǔ)句拼接
 sqlstr := "insert into ip_addr_info (ip_addr_begin,ip_addr_end,province) values " + vss
 stmt, err := dao.Prepare(sqlstr) //預(yù)處理帶參數(shù)的sql語(yǔ)句
 rs, err := stmt.Exec(vs...)   //帶參數(shù)執(zhí)行sql語(yǔ)句
 if err != nil {     //出錯(cuò),返回錯(cuò)誤信息
  ch <- err.Error()
  return err
 }else {       //成功,返回成功信息
  affect, _ := rs.RowsAffected()
  ch <- "Province: " + province + ", affect: " + strconv.FormatInt(affect, 10)
  return nil
 }

批量修改數(shù)據(jù)庫(kù)

數(shù)據(jù)庫(kù)中的ip_comp字段,是代表運(yùn)營(yíng)商信息,需要從運(yùn)營(yíng)商頁(yè)面進(jìn)入進(jìn)行數(shù)據(jù)獲取,只需改一下入口url重新運(yùn)行程序就能正確抓取,但這時(shí)入庫(kù)就不是新增了,而是更新,請(qǐng)簽出到4729e66版本。

 //前提數(shù)據(jù)庫(kù)表定義要設(shè)定唯一索引,主鍵或其它定義的unique索引
 ...
 
 sqlstr := "insert into ip_addr_info (ip_addr_begin,ip_addr_end,ip_comp) values " + vss +
  //提供更新(唯一索引沖突時(shí))時(shí)要對(duì)應(yīng)原字段與值
  " ON DUPLICATE KEY UPDATE ip_addr_begin = values(ip_addr_begin), ip_addr_end = values(ip_addr_end), ip_comp = values(ip_comp)"
 stmt, err := dao.Prepare(sqlstr)
 rs, err := stmt.Exec(vs...)
 if err != nil {
  ch <- err.Error()
  return err
 }else {
  affect, _ := rs.RowsAffected()
  ch <- "Province: " + province + ", affect: " + strconv.FormatInt(affect, 10)
  return nil
 }

待改進(jìn)的方面

把入口url提到配置中,使用策略模式,讓匹配規(guī)則抽象成策略,目標(biāo)是不改程序,調(diào)整配置文件就可以抓取不同的網(wǎng)頁(yè)。

項(xiàng)目地址

https://github.com/zhoutk/goTools

使用方法

git clone https://github.com/zhoutk/goTools
cd goTools
go get
go run ip.go

go buid ip.go
./ip  

小結(jié)

熟悉了golang語(yǔ)言,了解了一種全新的并發(fā)編程模式,熟悉了具體的數(shù)據(jù)庫(kù)操作方法,給自己生成了一個(gè)方便的工具。

總結(jié)

以上就是這篇文章的全部?jī)?nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,如果有疑問(wèn)大家可以留言交流,謝謝大家對(duì)腳本之家的支持。

相關(guān)文章

  • go mod 使用舊版本 版本號(hào)指定方式

    go mod 使用舊版本 版本號(hào)指定方式

    這篇文章主要介紹了go mod 使用舊版本 版本號(hào)指定方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2021-05-05
  • 一文詳解go的defer和return的執(zhí)行順序

    一文詳解go的defer和return的執(zhí)行順序

    go的defer和return是golang中的兩個(gè)關(guān)鍵字,return用于返回函數(shù)的返回值,也可以參與一定的流程控制,defer是golang中的延遲調(diào)用,經(jīng)常用于文件流的關(guān)閉,鎖的解鎖操作,本文給大家介紹了go的defer和return的執(zhí)行順序,需要的朋友可以參考下
    2024-07-07
  • Go語(yǔ)言常用字符串處理方法實(shí)例匯總

    Go語(yǔ)言常用字符串處理方法實(shí)例匯總

    這篇文章主要介紹了Go語(yǔ)言常用字符串處理方法,實(shí)例匯總了Go語(yǔ)言中常見(jiàn)的各種字符串處理技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下
    2015-03-03
  • golang 生成二維碼海報(bào)的實(shí)現(xiàn)代碼

    golang 生成二維碼海報(bào)的實(shí)現(xiàn)代碼

    這篇文章主要介紹了golang 生成二維碼海報(bào)的實(shí)現(xiàn)代碼,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2020-02-02
  • Golang操作Kafka的實(shí)現(xiàn)示例

    Golang操作Kafka的實(shí)現(xiàn)示例

    本文主要介紹了Golang操作Kafka的實(shí)現(xiàn)示例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2023-02-02
  • golang中配置?sql.DB獲得更好的性能

    golang中配置?sql.DB獲得更好的性能

    這篇文章主要介紹了golang中如何配置?sql.DB獲得更好的性能,在這篇文章中,我想準(zhǔn)確解釋這些設(shè)置的作用,并展示它們可能產(chǎn)生的(積極和消極)影響,需要的朋友可以參考下
    2023-10-10
  • golang內(nèi)置函數(shù)len的小技巧

    golang內(nèi)置函數(shù)len的小技巧

    len是很常用的內(nèi)置函數(shù),可以測(cè)量字符串、slice、array、channel以及map的長(zhǎng)度/元素個(gè)數(shù)。本文就來(lái)介紹一下其他小技巧,感興趣的可以了解一下
    2021-07-07
  • Go語(yǔ)言開(kāi)發(fā)k8s之Service操作解析

    Go語(yǔ)言開(kāi)發(fā)k8s之Service操作解析

    這篇文章主要為大家介紹了Go語(yǔ)言開(kāi)發(fā)k8s之Service操作解析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-06-06
  • golang占位符%v、%+v、%#v舉例詳解

    golang占位符%v、%+v、%#v舉例詳解

    這篇文章主要給大家介紹了關(guān)于golang占位符%v、%+v、%#v的相關(guān)資料,Go語(yǔ)言中的占位符通常用于格式化輸出,它們以%開(kāi)頭,后跟一個(gè)字符,表示要轉(zhuǎn)換的數(shù)據(jù)類(lèi)型,需要的朋友可以參考下
    2024-05-05
  • Go語(yǔ)言截取字符串函數(shù)用法

    Go語(yǔ)言截取字符串函數(shù)用法

    這篇文章主要介紹了Go語(yǔ)言截取字符串函數(shù)用法,實(shí)例分析了Go語(yǔ)言操作字符串的技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下
    2015-02-02

最新評(píng)論