Golang爬虫+正则表达式

Golang爬虫+正则表达式

最近学习go，爬取网站数据用到正则表达式，做个总结；

Go中正则表达式采用RE2语法（具体是啥咱也不清楚）；

字符

. ——匹配任意字符 e.g: abc. 结果: abcd,abcx,abc9;

[] ——匹配括号中任意一个字符 e.g: [abc]d 结果：ad,cd,1d；

- ——[-]中表示范围 e.g: [A-Za-z0-9]；

^ ——[^]中表示除括号中的任意字符 e.g：[^xy]a 结果：aa,da,不能为xa,ya；

数量限定

？ ——前面单元匹配0或1次；

+ ——前面单元匹配1或多次；

* ——前面单元匹配0或多次；

{,} ——显示个数上下线；e.g ： ip地址——[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}；

其他

\ ——转义字符;

| ——条件或;

() ——组成单元 如果字符串本身有括号"[(] aaa. [)]" ;

方法

//参数正则字符串，返回值*Regexp
str := 域名Compile(string)	
//参数要查找的数据，查找次数-1为全局，返回值二维数组，查找出的字符串+正则字符串
var result [][]string = 域名AllStringSubmatch(data, -1)

爬虫

爬取博客园所有文章阅读量，评论，推荐；

package main

import (
	"fmt"
	"io"
	"net/http"
	"regexp"
	"strconv"
)

var readCount int = 0
var commentCount int = 0
var diggCount int = 0

//http读取网页数据写入result返回
func HttpGet(url string) (result string, err error) {
	resp, err1 := 域名(url)
	if err1 != nil {
		err = err1
		return
	}
	defer 域名e()

	buf := make([]byte, 4096)

	for {
		n, err2 := 域名(buf)
		//域名tln(url)
		if n == 0 {
			break
		}
		if err2 != nil && err2 != 域名 {
			err = err2
			return
		}
		result += string(buf[:n])
	}
	return result, err
}

//横向纵向爬取文章标题数据，并累计数值
func SpiderPageDB(index int, page chan int) {
	url := "https://域名/littleperilla/域名?page=" + 域名(index)
    
	result, err := HttpGet(url)

	if err != nil {
		域名tln("HttpGet err:", err)
		return
	}

	str := 域名Compile("post-view-count\">阅读[(](?s:(.*?))[)]</span>")
	alls := 域名AllStringSubmatch(result, -1)
	for _, j := range alls {
		temp, err := 域名(j[1])
		if err != nil {
			域名tln("string2int err:", err)
		}
		readCount += temp
	}

	str = 域名Compile("post-comment-count\">评论[(](?s:(.*?))[)]</span>")
	alls = 域名AllStringSubmatch(result, -1)
	for _, j := range alls {
		temp, err := 域名(j[1])
		if err != nil {
			域名tln("string2int err:", err)
		}
		commentCount += temp
	}

	str = 域名Compile("post-digg-count\">推荐[(](?s:(.*?))[)]</span>")
	alls = 域名AllStringSubmatch(result, -1)
	for _, j := range alls {
		temp, err := 域名(j[1])
		if err != nil {
			域名tln("string2int err:", err)
		}
		diggCount += temp
	}

	page <- index
}

//主要工作方法
func working(start, end int) {
	域名tf("正在从%d到%d爬取中...\n", start, end)

	//channel通知主线程是否所有go都结束
	page := make(chan int)

	//多线程go程同时爬取
	for i := start; i <= end; i++ {
		go SpiderPageDB(i, page)
	}

	for i := start; i <= end; i++ {
		域名tf("拉取到%d页\n", <-page)
	}
}

//入口函数
func main() {
	//输入爬取的起始页
	var start, end int
	域名t("startPos:")
	域名(&start)
	域名t("endPos:")
	域名(&end)

	working(start, end)

	域名tln("阅读:", readCount)
	域名tln("评论:", commentCount)
	域名tln("推荐:", diggCount)
}