标签：Info err uri 标识 func logHelper UA colly

colly  随机UA标识 下载图片

package main

import (
	"io/ioutil"
	"strings"

	"github.com/gocolly/colly"
	"github.com/gocolly/colly/extensions"
)

func dlImg(uri string) {
	logHelper.Info(uri)
	// https://images.hk/upload/goods/20211127152597926.jpg
	c := colly.NewCollector(
	// colly.UserAgent("Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3880.400 QQBrowser/10.8.4554.400"),
	// colly.AllowedDomains("foo.com", "bar.com"),
	)
	extensions.RandomUserAgent(c)

	c.OnResponse(func(r *colly.Response) {
		logHelper.Info(r.Request.Headers)
		logHelper.Info(r.StatusCode)
		// logHelper.Info(r.Body)
		bs := r.Body
		fn := func() string {
			l := strings.Split(uri, ".hk/")

			p := "../shop/" + l[1]
			logHelper.Info(l[1], p)
			return p
		}()
		err := ioutil.WriteFile(fn, bs, 0777)
		if err != nil {
			logHelper.Error(err)
		}
	})
	if err := c.Visit(uri); err != nil {
		logHelper.Error(err)
	}

	logHelper.Info("end")
}

func dlImgFromFile(f string) {
	s := rF(f)
	l := strings.Split(s, "\r\n")
	for _, uri := range l {
		// logHelper.Info(uri)
		dlImg(uri)
	}

}

标签：Info,err,uri,标识,func,logHelper,UA,colly
来源： https://www.cnblogs.com/rsapaper/p/15836106.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。