php curl的深入解析
2015-01-24信息快讯网
本篇文章是对php curl的使用就行了详细的分析介绍,需要的朋友参考下
curl可以说是php里一个非常强大的功能,每个php程序员都应该学习并熟悉curl,使用curl前确保你的php_curl扩展已经开启。一、curl使用
例如:我们采集深圳智联招聘上PHP招聘的第一页信息
$url='http://sou.zhaopin.com/jobs/searchresult.ashx?jl=%E6%B7%B1%E5%9C%B3&kw=php&sm=0&p=1';
//初始化
$ch = curl_init();
//设置选项,包括URL
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//不自动输出内容
curl_setopt($ch, CURLOPT_HEADER, 0);//不返回头部信息
//执行curl
$output = curl_exec($ch);
//错误提示
if(curl_exec($ch) === false){
die(curl_error($ch));
}
//释放curl句柄
curl_close($ch);
header('Content-type: text/html; charset=utf-8');
echo $output;
当然我们必须对返回的数据使用<<正则表达式>>处理,找出我们想要的那一部分,然后根据你的需要把数据填充到你网站里
//职位名称
preg_match_all('/<td class="Jobname">.*?<a\s*href="(.*?)"\starget="_blank">(.*?)<\/a>/s', $output, $title);
$title[1];//链接
$title[2];//标题
//公司名称
preg_match_all('/<td class="Companyname">.*?<a href="(.*?)"\starget="_blank">(.*?)<\/a>/s', $output, $company);
$company[1];//链接
$company[2];//名字
//工作地点
preg_match_all('/<td class="Companyaddress">\s*(.*?)\s*<\/td>/s', $output, $address);
$address[1];//地点
//发布日期
preg_match_all('/<td class="releasetime">\s*(.*?)\s*<\/td>/s', $output, $time);
$time[1];//时间
var_dump($time[1]);
二、常用功能
curl的核心是通过设置各种选项来达到各种功能,这里我们介绍几种常用的选项。
1.post数据
$post=array( 'uid'=>'test', 'pwd'=>'curl123' ); curl_setopt($ch, CURLOPT_POST, 1);//设置为POST方式 curl_setopt($ch, CURLOPT_POSTFIELDS, http_build_query($post));//POST数据
2.cookie
$savefile=dirname(__FILE__).'save.txt'; $getfile=dirname(__FILE__).'get.txt'; //可以分开使用 curl_setopt($ch, CURLOPT_COOKIEJAR, $savefile); //保存 curl_setopt($ch, CURLOPT_COOKIEFILE, $getfile); //读取
3.伪造IP、来路
curl_setopt($ch, CURLOPT_HTTPHEADER, array('X-FORWARDED-FOR:8.8.8.8', 'CLIENT-IP:8.8.8.8'));//构造IP
curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com");//构造来路
curl_setopt选项大全,详见PHP手册:http://www.php.net/manual/zh/function.curl-setopt.php
三、多线程
官方示例
// 创建一对cURL资源
$ch1 = curl_init();
$ch2 = curl_init();
// 设置URL和相应的选项
curl_setopt($ch1, CURLOPT_URL, "http://www.example.com/");
curl_setopt($ch1, CURLOPT_HEADER, 0);
curl_setopt($ch2, CURLOPT_URL, "http://www.php.net/");
curl_setopt($ch2, CURLOPT_HEADER, 0);
// 创建批处理cURL句柄
$mh = curl_multi_init();
// 增加2个句柄
curl_multi_add_handle($mh,$ch1);
curl_multi_add_handle($mh,$ch2);
$running=null;
// 执行批处理句柄
do {
usleep(10000);
curl_multi_exec($mh,$running);
} while ($running > 0);
// 关闭全部句柄
curl_multi_remove_handle($mh, $ch1);
curl_multi_remove_handle($mh, $ch2);
curl_multi_close($mh);
PHP页面中文乱码分析
php四种基础算法代码实例
教你如何使用php session
php字符编码转换之gb2312转为utf8
使用PHP curl模拟浏览器抓取网站信息
获取URL文件名后缀
PHP CURL CURLOPT参数说明(curl_setopt)
php中通过curl检测页面是否被百度收录
PHP 输出URL的快捷方式示例代码
php curl基本操作详解
利用curl抓取远程页面内容的示例代码
基于php无限分类的深入理解
Window 7/XP 安装Apache 2.4与PHP 5.4 的过程详解
php源代码安装常见错误与解决办法分享
php 深入理解strtotime函数的使用详解
如何使用PHP计算上一个月的今天
解析php二分法查找数组是否包含某一元素
PHP闭包(Closure)使用详解
基于curl数据采集之正则处理函数get_matches的使用
基于curl数据采集之单页面并行采集函数get_htmls的使用
基于curl数据采集之单页面采集函数get_html的使用
使用php get_headers 判断URL是否有效的解决办法
PHP中使用cURL实现Get和Post请求的方法
PHP下使用CURL方式POST数据至API接口的代码