php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
PHP安装攻略:常见问题解答(三)
Oct 09 PHP
粗略计算在线时间,bug:ip相同
Dec 09 PHP
linux iconv方法的使用
Oct 01 PHP
PHP中防止直接访问或查看或下载config.php文件的方法
Jul 07 PHP
php使用PDO操作MySQL数据库实例
Dec 30 PHP
php实现图片上传并进行替换操作
Mar 15 PHP
Yii框架数据模型的验证规则rules()被执行的方法
Dec 02 PHP
PHP实现的文件操作类及文件下载功能示例
Dec 24 PHP
详解PHP swoole process的使用方法
Aug 26 PHP
自写的利用PDO对mysql数据库增删改查操作类
Feb 19 PHP
laravel-admin自动生成模块,及相关基础配置方法
Oct 08 PHP
PHP7创建COOKIE和销毁COOKIE的实例方法
Feb 03 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
PHP4实际应用经验篇(2)
2006/10/09 PHP
PHP二维数组的去重问题解析
2011/07/17 PHP
浅析PHP substr,mb_substr以及mb_strcut的区别和用法
2013/06/21 PHP
php jquery 多文件上传简单实例
2013/12/23 PHP
浅谈ThinkPHP5.0版本和ThinkPHP3.2版本的区别
2017/06/17 PHP
[原创]PHP实现字节数Byte转换为KB、MB、GB、TB的方法
2017/08/31 PHP
360搜索引擎自动收录php改写方案
2018/04/28 PHP
Laravel推荐使用的十个辅助函数
2019/05/10 PHP
Add a Table to a Word Document
2007/06/15 Javascript
JSON+JavaScript处理JSON的简单例子
2013/03/20 Javascript
div当滚动到页面顶部的时候固定在顶部实例代码
2013/05/27 Javascript
javascript控制图片播放的实现代码
2020/07/29 Javascript
使用jQuery或者原生js实现鼠标滚动加载页面新数据
2016/03/06 Javascript
浅谈javascript中的call、apply、bind
2016/03/06 Javascript
JavaScript中关于iframe滚动条的去除和保留
2016/11/17 Javascript
浅谈vuex之mutation和action的基本使用
2017/08/29 Javascript
vue使用xe-utils函数库的具体方法
2018/03/06 Javascript
微信小程序实现通过js操作wxml的wxss属性示例
2018/12/06 Javascript
vue-cli2.0转3.0之项目搭建的详细步骤
2018/12/11 Javascript
javascript实现贪吃蛇小游戏
2020/07/28 Javascript
js实现全选和全不选功能
2020/07/28 Javascript
解决antd的Form组件setFieldsValue的警告问题
2020/10/29 Javascript
Python脚本实现12306火车票查询系统
2016/09/30 Python
python设置环境变量的原因和方法
2019/06/24 Python
python进阶之自定义可迭代的类
2019/08/20 Python
使用python绘制温度变化雷达图
2019/10/18 Python
python实现拼图小游戏
2020/02/22 Python
Scrapy基于scrapy_redis实现分布式爬虫部署的示例
2020/09/29 Python
俄罗斯商务邀请函
2014/01/26 职场文书
第一批党的群众路线教育实践活动工作总结
2014/03/03 职场文书
培训班开班仪式主持词
2014/03/28 职场文书
2015年财务工作总结范文
2015/03/31 职场文书
2015年食品安全工作总结
2015/05/15 职场文书
惊天动地观后感
2015/06/10 职场文书
2015年思想品德教学工作总结
2015/07/22 职场文书
MySQL数据库简介与基本操作
2022/05/30 MySQL