基于curl数据采集之正则处理函数get_matches的使用
2015-01-24信息快讯网
本篇文章介绍了,基于curl数据采集之正则处理函数get_matches的使用。需要的朋友参考下
根据前两篇的博文:
基于curl数据采集之单页面采集函数get_html的使用
基于curl数据采集之单页面并行采集函数get_htmls的使用
已经可以得到了我们需要的html文件,现在需要处理得到的文件获取到我们需要的采集的数据。
对于html文档的解析,没有像XML那样的解析类,因为HTML文档有很多不成对的标签,很不严格。这个时候就需要采用其他的一些辅助类了,simplehtmldom是一个类似于JQuery方式操作HTML文档的解析类。可以很方便的得到想要的数据,可惜速度慢。这里不是我们这里讨论的重点,我主要使用正则来匹配我所需要的采集的数据,可以很快速的得到我需要采集的信息。
考虑到get_html可以判断返回的数据,但是get_htmls没有办法判断,为了方便调式和调用写了如下两个函数:
function get_matches($pattern,$html,$err_msg,$multi=false,$flags=0,$offset=0){ if(!$multi){ if(!preg_match($pattern,$html,$matches,$flags,$offset)){ echo $err_msg."! 错误信息: ".get_preg_err_msg()."\n"; return false; } }else{ if(!preg_match_all($pattern,$html,$matches,$flags,$offset)){ echo $err_msg."! 错误信息: ".get_preg_err_msg()."\n"; return false; } } return $matches; } function get_preg_err_msg(){ $error_code = preg_last_error(); switch($error_code){ case PREG_NO_ERROR : $err_msg = 'PREG_NO_ERROR'; break; case PREG_INTERNAL_ERROR: $err_msg = 'PREG_INTERNAL_ERROR'; break; case PREG_BACKTRACK_LIMIT_ERROR: $err_msg = 'PREG_BACKTRACK_LIMIT_ERROR'; break; case PREG_RECURSION_LIMIT_ERROR: $err_msg = 'PREG_RECURSION_LIMIT_ERROR'; break; case PREG_BAD_UTF8_ERROR: $err_msg = 'PREG_BAD_UTF8_ERROR'; break; case PREG_BAD_UTF8_OFFSET_ERROR: $err_msg = 'PREG_BAD_UTF8_OFFSET_ERROR'; break; default: return '未知错误!'; } return $err_msg.': '.$error_code; }
可以这样调用:
$url = 'http://www.baidu.com'; $html = get_html($url); $matches = get_matches('!<a[^<]+</a>!',$html,'没有找到链接',true); if($matches){ var_dump($matches); }
或者这样调用:
$urls = array('http://www.baidu.com','http://www.hao123.com'); $htmls = get_htmls($urls); foreach($htmls as $html){ $matches = get_matches('!<a[^<]+</a>!',$html,'没有找到链接',true); if($matches){ var_dump($matches); } }
就可以得到所需的信息,无论单页面采集还是多页面采集,最终PHP还是只能处理一个页面,由于使用get_matches了,可以对返回的值进行判断真假,得到正确的数据,由于使用正则的时候遇到了超过正则回溯的问题,增加get_preg_err_msg来提示正则信息。
由于采集数据的时候,经常是采集列表页,根据列表页得到的内容页链接再采集内容页,或者更多的层次,那么循环嵌套会很多,对于代码的控制会感觉力不从心。那我们是否可以把采集列表页的代码和采集内容页的代码,或者更多的层次的采集代码分离开,甚至循环都简化呢?
php stream_get_meta_data返回值
PHP中time(),date(),mktime()区别介绍
DOM XPATH获取img src值的query
php一次性删除前台checkbox多选内容的方法
PHP Switch 语句之学习笔记
PHP中的str_repeat函数在JavaScript中的实现
php jq jquery getJSON跨域提交数据完整版
php读取本地文件常用函数(fopen与file_get_contents)
PHP函数之日期时间函数date()使用详解
深入解析php中的foreach函数
PHP函数preg_match_all正则表达式的基本使用详细解析
PHP 通过Socket收发十六进制数据的实现代码
JoshChen_web格式编码UTF8-无BOM的小细节分析
解析isset与is_null的区别
php小经验:解析preg_match与preg_match_all 函数
深入理解用mysql_fetch_row()以数组的形式返回查询结果
fetchAll()与mysql_fetch_array()的区别详解
PHP容易忘记的知识点分享
基于curl数据采集之单页面并行采集函数get_htmls的使用
基于curl数据采集之单页面采集函数get_html的使用
php中is_null,empty,isset,unset 的区别详细介绍
php中get_headers函数的作用及用法的详细介绍
使用php get_headers 判断URL是否有效的解决办法
使用Apache的htaccess防止图片被盗链的解决方法
Apache下禁止php文件被直接访问的解决方案
apache和php之间协同工作的配置经验分享
Apache中php.ini的设置方法
浅谈apache和nginx的rewrite的区别
php中使用preg_match_all匹配文章中的图片
set_include_path和get_include_path使用及注意事项
APACHE的AcceptPathInfo指令使用介绍
Could not load type System.ServiceModel.Activation.HttpModule解决办法
PHP C EasyUI DataGrid 资料存的方式介绍
PHP 正则表达式之正则处理函数小结(preg_match,preg_match_all,preg_replace,preg_split)
php调用方法mssql_fetch_row、mssql_fetch_array、mssql_fetch_assoc和mssql_fetch_objcect读取数据的区别
php空间不支持socket但支持curl时recaptcha的用法