自从舍弃PHP语言后,又开始对Go这个工具下手了,由于PHP对协程的支持并不是特别好,这也是我渐渐选择Golang的原因。Java由于多线程的开起,内存吃紧的厉害,这也是我不选择Java的原因。 此次练手,也谈不上技术,只是为了练手多协程下的爬虫调度,我用它爬取珍爱网各个城市地区首页的用户信息,记录…
上代码
一、安装 使用阿里的 apt 源安装的Golang版本有点低,所以我没用了 golang中文网下载地址:https://studygolang.com/dl 安装包:go1.13.4.linux-amd64.tar.gz 用上传工具上传至服务器 解压 tar -xzf go1.13.4.linux-…
Colly是Golang世界最知名的Web爬虫框架了,它的API清晰明了,高度可配置和可扩展,支持分布式抓取,还支持多种存储后端(如内存、Redis、MongoDB等)。这篇文章记录我学习使用它的的一些感受和理解。 首先安装它: 这个go get和之前安装包不太一样,最后有...这样的省略号,它的意…