php+ajax导入大数据时产生的问题处理

2015-01-24信息快讯网

介绍:就是想实现简单的ajax上传数据,但是当数据量较大的时候,问题就一个一个接着来了,其实数据也不是很大,就是csv格式数据 不到5w条数据。大小5M,一开始认为这个很简单,就是先上传一下文件,然后读取一下,存到数据库就好了,结果,可能我比较菜,弄了半天做出这个功能。环境是linux.

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理_信息快讯网

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}

php+ajax实现无刷新分页的方法
PHP has encountered a Stack overflow问题解决方法
php中使用Ajax时出现Error(c00ce56e)的详细解决方案
自编函数解决pathinfo()函数处理中文问题
ThinkPHP写数组插入与获取最新插入数据ID实例
Thinkphp中数据按分类嵌套循环实现方法
ThinkPHP结合AjaxFileUploader实现无刷新文件上传的方法
smarty中英文多编码字符截取乱码问题解决方法
PHP连接MSSQL2008/2005数据库(SQLSRV)配置实例
php cookie中点号(句号)自动转为下划线问题
php+mysql实现数据库随机重排实例
php中__destruct与register_shutdown_function执行的先后顺序问题
jquery+php+ajax显示上传进度的多图片上传并生成缩略图代码
php保存二进制原始数据为图片的程序代码
PHP curl 抓取AJAX异步内容示例
php调用nginx的mod_zip模块打包ZIP文件
CI框架中libraries,helpers,hooks文件夹详细说明
教你如何用php实现LOL数据远程获取
使用php批量删除数据库下所有前缀为prefix_的表
PHP+ajaxfileupload+jcrop插件完美实现头像上传剪裁
PHP防止post重复提交数据的简单例子
php导出csv格式数据并将数字转换成文本的思路以及代码分享
PHP函数分享之curl方式取得数据、模拟登陆、POST数据
PHP解决URL中文GBK乱码问题的两种方法
PHP的foreach中使用引用时需要注意的一个问题和解决方法
php中$美元符号与Zen Coding冲突问题解决方法分享
PHP+Mysql+Ajax+JS实现省市区三级联动
ThinkPHP使用心得分享-ThinkPHP + Ajax 实现2级联动下拉菜单
php的慢速日志引起的Mysql错误问题分析
php结合ajax实现赞、顶、踩功能实例
PHP异常Parse error: syntax error, unexpected T_VAR错误解决方法
PHP_NETWORK_GETADDRESSES: GETADDRINFO FAILED问题解决办法
php通过ajax实现双击table修改内容
©2014-2024 dbsqp.com