本篇内容主要讲解“php爬虫框架怎么用”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“php爬虫框架怎么用”吧!
创新互联公司专业为企业提供忻府网站建设、忻府做网站、忻府网站设计、忻府网站制作等企业网站建设、网页设计与制作、忻府企业网站模板建站服务,十载忻府做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。
网络爬虫:互联网就像一张巨大的蜘蛛网,里面存放了很多的数据。爬虫就是一只沿着网络线去获取自己所需数据的小蜘蛛,数据采集指的是我们向目标网站发出请求,然后获取到数据后把有用数据提取的程序。所需要用到的技术就是模拟浏览器向站点发出请求行为,把站点返回的各种数据保存到本地在进行有用数据的过滤。
爬虫的框架有很多,Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架,用途非常广泛。这几天使用PHP的爬虫框架爬取了一些数据,发现还是挺方便的,这里放下php程序直中配置代理的简单示例,为自己的学习做个小笔记。
// 要访问的目标页面
$url = "http://httpbin.org/ip";
$urls = "https://httpbin.org/ip";
// 代理服务器(产品官网 www.16yun.cn)
define("PROXY_SERVER", "tcp://t.16yun.cn:31111");
// 代理身份信息
define("PROXY_USER", "username");
define("PROXY_PASS", "password");
$proxyAuth = base64_encode(PROXY_USER . ":" . PROXY_PASS);
// 设置 Proxy tunnel
$tunnel = rand(1,10000);
$headers = implode("\r\n", [
"Proxy-Authorization: Basic {$proxyAuth}",
"Proxy-Tunnel: ${tunnel}",
]);
$sniServer = parse_url($urls, PHP_URL_HOST);
$options = [
"http" => [
"proxy" => PROXY_SERVER,
"header" => $headers,
"method" => "GET",
'request_fulluri' => true,
],
'ssl' => array(
'SNI_enabled' => true, // Disable SNI for https over http proxies
'SNI_server_name' => $sniServer
)
];
print($url);
$context = stream_context_create($options);
$result = file_get_contents($url, false, $context);
var_dump($result);
// 访问 HTTPS 页面
print($urls);
$context = stream_context_create($options);
$result = file_get_contents($urls, false, $context);
var_dump($result);
到此,相信大家对“php爬虫框架怎么用”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
网站标题:php爬虫框架怎么用
转载来于:http://lswzjz.com/article/pihcch.html