golang抓取网页并分析页面包含的链接方法

时间:2021-05-22

1. 下载非标准的包,"golang.org/x/net/html"

2. 先安装git,使用git命令下载

git clone https://github.com/golang/net

3. 将net包,放到GOROOT路径下

比如:

我的是:GOROOT = E:\go\

所以最终目录是:E:\go\src\golang.org\x\net

注意:如果没有golang.org和x文件夹,就创建

4. 创建fetch目录,在其下创建main.go文件,main.go文件代码内容如下:

package main import ( "os" "net/http" "fmt" "io/ioutil") func main() { for _, url := range os.Args[1:] { resp, err := http.Get(url) if err != nil { fmt.Fprintf(os.Stderr, "fetch: %v\n", err) } b, err := ioutil.ReadAll(resp.Body) resp.Body.Close() if err != nil { fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err) os.Exit(1) } fmt.Printf("%s",b) }}

5. 编译fetch

go build test.com\justin\demo\fetch

注意:test.com\justin\demo\ 是我的项目路径,具体编译根据自己项目路径编译。

6. 执行fetch.exe 文件

fetch.exe https:// | findlinks.exe

> 10. 执行后结果:获取到各种不同形式的超链接

以上这篇golang抓取网页并分析页面包含的链接方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。

相关文章