爬虫与User-Agent

初学爬虫的人都会接触到User-Agent，那么什么是User-Agent呢?

User-Agent是一个特殊字符串头，被广泛用来标示浏览器客户端的信息，使得服务器能识别客户机使用的操作系统和版本，CPU类型，浏览器及版本，浏览器的渲染引擎，浏览器语言等。

不同的浏览器会用不同的用户代理字符串（User Agent Strings）作为自身的标志，当搜索引擎通过网络爬虫访问网页时，也会通过用户代理字符串来进行自身的标示，这也是为何网站统计报告能够统计浏览器信息，爬虫信息等。网站需要获取用户客户端的信息，了解网站内容在客户端的展现形式，一些网站通过判断UA来给不同的操作系统，不同的浏览器发送不同的页面。

有一些网站不喜欢被爬虫程序访问，所以会检测连接对象，如果是爬虫程序，也就是非人点击访问，它就会不让你继续访问。所以为了要让程序可以正常运行，需要隐藏自己的爬虫程序的身份。此时，我们就可以通过设置User Agent的来达到隐藏身份的目的。

看完以上内容，相信大家对UA有了一定了解。代理IP是爬虫的好帮手，倘若需要使用优质代理IP，可以试用全民HTTP代理，可用率高，安全稳定，操作简单，也有专业技术人员在线指导，是代理IP软件的不二之选。