PHP查询MySQL大量数据的时候内存占用分析

2015-01-24信息快讯网

这篇文章主要是从原理, 手册和源码分析在PHP中查询MySQL返回大量结果时, 内存占用的问题, 同时对使用MySQL C API也有涉及.

昨天, 有同事在PHP讨论群里提到, 他做的一个项目由于MySQL查询返回的结果太多(达10万条), 从而导致PHP内存不够用. 所以, 他问, 在执行下面的代码遍历返回的MySQL结果之前, 数据是否已经在内存中了? -
 
  while ($row = mysql_fetch_assoc($result)) { 
  // ... 
  } 

  当然, 这种问题有许多优化的方法. 不过, 就这个问题来讲, 我首先想到, MySQL是经典的C/S(Client/Server, 客户端/服务器)模型, 在遍历结果集之前, 底层的实现可能已经把所有的数据通过网络(假设使用TCP/IP)读到了Client的缓冲区, 也有另一种可能, 就是数据还在Server端的发送缓冲区里, 并没有传给Client.
  在查看PHP和MySQL的源码之前, 我注意到PHP手册里有两个功能相近的函数:
 
  mysql_query() 
  mysql_unbuffered_query() 

  两个函数的字面意思和说明证实了我的想法, 前一个函数执行时, 会把所有的结果集从Server端读到Client端的缓冲区中, 而后一个则没有, 这就是”unbuffered(未缓冲)”的意思.
  那就是说, 如果用mysql_unbuffered_query()执行了一条返回大量结果集的SQL语句, 在遍历结果之前, PHP的内存是没有被结果集占用的. 而用mysql_query()来执行同样的语句的话, 函数返回时, PHP的内存占用便会急剧增加, 立即耗光内存.
  如果阅读PHP的相关代码, 可以看到这两个函数的实现上的异同:
 
  /* {{{ proto resource mysql_query(string query [, int link_identifier]) 
  Sends an SQL query to MySQL */ 
  PHP_FUNCTION(mysql_query) 
  { 
  php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_STORE_RESULT); 
  } 
  /* }}} */ 
  /* {{{ proto resource mysql_unbuffered_query(string query [, int link_identifier]) 
  Sends an SQL query to MySQL, without fetching and buffering the result rows */ 
  PHP_FUNCTION(mysql_unbuffered_query) 
  { 
  php_mysql_do_query(INTERNAL_FUNCTION_PARAM_PASSTHRU, MYSQL_USE_RESULT); 
  } 
  /* }}} */ 

  两个函数都调用了php_mysql_do_query(), 只差了第2个参数的不同, MYSQL_STORE_RESULT和MYSQL_USE_RESULT. 再看php_mysql_do_query()的实现:
 
  if(use_store == MYSQL_USE_RESULT) { 
  mysql_result=mysql_use_result(&mysql->conn); 
  } else { 
  mysql_result=mysql_store_result(&mysql->conn); 
  } 

  mysql_use_result()和mysql_store_result()是MySQL的C API函数, 这两个C API函数的区别就是后者把结果集从MySQL Server端全部读取到了Client端, 前者只是读取了结果集的元信息.
  回到PHP, 使用mysql_unbuffered_query(), 可以避免内存的立即占用. 如果在遍历的过程不对结果进行”PHP缓存”(如放到某数组中), 则整个执行过程虽然操作了十万条或者百万条或者更多的数据, 但PHP占用的内存始终是非常小的.
phpExcel导出大量数据出现内存溢出错误的解决方法
Apache中php.ini的设置方法
PHP中如何定义和使用常量
使用php判断浏览器的类型和语言的函数代码
CI框架源码阅读,系统常量文件constants.php的配置
php并发对MYSQL造成压力的解决方法
php连接mssql数据库的几种方法
php中存储用户ID和密码到mysql数据库的方法
php中选择什么接口(mysql、mysqli)访问mysql
php连接mssql的一些相关经验及注意事项
mysqli_set_charset和SET NAMES使用抉择及优劣分析
整理的一些实用WordPress后台MySQL操作命令
如何获知PHP程序占用多少内存(memory_get_usage)
PHP管理内存函数 memory_get_usage()使用介绍
PHP中使用unset销毁变量并内存释放问题
采用PHP函数memory_get_usage获取PHP内存清耗量的方法
php 数据库字段复用的基本原理与示例
PHP性能优化 产生高度优化代码
PHP多个版本的分析解释
QQ登录 PHP OAuth示例代码
php中批量替换文件名的实现代码
关于php连接mssql:pdo odbc sql server
MySQL连接数超过限制的解决方法
php入门学习知识点一 PHP与MYSql连接与查询
PHP 获取MySQL数据库里所有表的实现代码
php与mysql建立连接并执行SQL语句的代码
PHP和Mysqlweb应用开发核心技术 第1部分 Php基础-3 代码组织和重用2
PHP大批量数据操作时临时调整内存与执行时间的方法
PHP Session_Regenerate_ID函数双释放内存破坏漏洞
PHP数组内存耗用太多问题的解决方法
©2014-2024 dbsqp.com