使用php方法curl抓取AJAX异步内容思路分析及代码分享
2015-01-24信息快讯网
怎样抓取AJAX网站的内容?这是一个热门的问题,也是一个棘手的问题。但实际上呢,抓取ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参数,然后对该url传递参数进行抓取即可
其实抓ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参数,然后对该url传递参数进行抓取即可。
利用Firebug的网络工具
如果抓去的是页面,则内容中没有显示的数据,是一堆JS代码。
Code
$cookie_file=tempnam('./temp','cookie'); $ch = curl_init(); $url1 = "http://www.cdut.edu.cn/default.html"; curl_setopt($ch,CURLOPT_URL,$url1); curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1); curl_setopt($ch,CURLOPT_HEADER,0); curl_setopt($ch,CURLOPT_RETURNTRANSFER,1); curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1); curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析 //设置连接结束后保存cookie信息的文件 curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file); $content=curl_exec($ch); curl_close($ch); $ch3 = curl_init(); $url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr"; $curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0"; curl_setopt($ch3,CURLOPT_URL,$url3); curl_setopt($ch3,CURLOPT_POST,1); curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost); //设置连接结束后保存cookie信息的文件 curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file); $content1=curl_exec($ch3); curl_close($ch3);
CI框架中site_url()和base_url()的区别
PHP中使用CURL获取页面title例子
Thinkphp中的curd应用实用要点
php+ajax实现文章自动保存的方法
解决phpcms更换javascript的幻灯片代码调用图片问题
php+ajax实时输入自动搜索匹配的方法
PHP_SELF,SCRIPT_NAME,REQUEST_URI区别
PHP+jquery+ajax实现即时聊天功能实例
关于URL最大长度限制的相关资料查证
php进行支付宝开发中return_url和notify_url的区别分析
PHP获取当前完整URL地址的函数
ThinkPHP中使用ajax接收json数据的方法
php中get_meta_tags()、CURL与user-agent用法分析
php采用curl实现伪造IP来源的方法
PHP基于CURL进行POST数据上传实例
php中file_get_contents与curl性能比较分析
如何让搜索引擎抓取AJAX内容解决方案
简单分析ucenter 会员同步登录通信原理
php防止伪造数据从地址栏URL提交的方法
PHP+Ajax检测用户名或邮件注册时是否已经存在实例教程
ThinkPHP中URL路径访问与模块控制器之间的关系
ThinkPHP中pathinfo的访问模式、路径访问模式及URL重写总结
ThinkPHP中ajax使用实例教程
访问编码后的中文URL返回404错误的解决方法
zend framework框架中url大小写问题解决方法
php中的curl_multi系列函数使用例子
PHP使用CURL_MULTI实现多线程采集的例子
PHP使用CURL实现对带有验证码的网站进行模拟登录的方法
PHP开发框架kohana中处理ajax请求的例子
PHP curl实现抓取302跳转后页面的示例
PHP和javascript常用正则表达式及用法实例
PHP中使用CURL模拟登录并获取数据实例
jQuery+PHP+ajax实现微博加载更多内容列表功能