php+ajax导入大数据时产生的问题处理


Posted in PHP onJune 11, 2014

遇到的问题就从先到后的一一说吧。

问题1 按照我最初的想法,先上传文件再读取文件。这里问题就来了,当文件较大的时候上传较慢,导致客户看到的操作一直处于等待状态,不人性化。

处理办法:我是这样做的,大神有更好的办法,求介绍。我先把文件上传上去,然后把文件存到一个特定的文件夹就叫 import吧   ,然后返回一个这个文件名字。这样就确保了文件是上传成功的。并且我可以在他返回名字的这一步用js  给客户一个提示。然后就是ajax去请求php读取文件,插入数据库。可是问题来了。

问题2 当我用ajax去请求php读取文件并插入数据库的时候,遇到一个问题,就是ajax请求总是在1min的时候,断掉。我一想 ,这应该是php的最大执行时间max_execution_time的原因吧,结果我修改为300秒。还是这样,那我就认为会不会是apache的 最大get时间max_input_time呢,我就在代码加一个 ini_set  结果,用ini_get   查看max_input_time,用ini_set设置无效,还是60秒,在网上查了很多资料,还是不知道为啥。有大神知道的,请给我回复下。菜鸟先谢过了。那没办法,我只能去服务器把php.ini配置修改了。经理说不让修改的,为了测试,偷偷改了--最后修改回来了。修改之后,测试,还是不行。还是到一分钟 就执行超时。真的很纳闷。不知道什么原因。求指教。那没办法。

这种办法行不通了,对一个5m的文件只能分行读取了。然后就是对代码的一通修改,分行读取是这样操作的,先ajax请求,然后每次读取2000条  然后对这2000条数据进行处理,插入数据库(文章最后介绍一个好用的分行读取函数)。然后每次ajax执行完,返回一个状态符,和本次读取到的行数,然后下次接着读。知道最后读取完。这中间还遇到一个问题:就是当我对每一行数据进行查重的时候遇到的,是这样的,我对得到的内容进行循环,然后查一下每行是否存在,当我判断$count是否大于0 的时候,当已存在的时候,我用continue,执行下一次循环。但是当我在导入10000条的时候,总是在8000条的时候报错说 服务器内部错误。很闷,不解问什么,结果只能用if  else代替了。纳闷。一个小提醒:插入数据库的时候 不要一条一条的插入,最好这样 inset  into  aaa(`xx`,`xxx`)values('111','111'),('222','222')。这样 速度会快很多。

php+ajax导入大数据时产生的问题处理

行号读取函数,SplFileObject这个类库真的很好用推荐。有知道我的问题的,求大神指教。

function getFileLines($filename, $startLine, $endLine, $method = 'rb'){
      $content = array();
      $filename = DATA_PATH.DS.'import' . DS . $filename;
      $count = $endLine - $startLine;
      $fp = new SplFileObject($filename, $method);
      $fp->seek($startLine); // 转到第N行, seek方法参数从0开始计数
      for ($ii = 0; $ii <= $count; ++$ii) {
            $content[] = $fp->current(); // current()获取当前行内容
            $fp->next(); // 下一行
      }
      return array_filter($content); // array_filter过滤:false,null,''
}
PHP 相关文章推荐
在apache下限制每个虚拟主机的并发数!!!!
Oct 09 PHP
PHP5 的对象赋值机制介绍
Aug 02 PHP
php使用codebase生成随机数
Mar 25 PHP
php实现的发送带附件邮件类实例
Sep 22 PHP
浅谈ThinkPHP的URL重写
Nov 25 PHP
php+mysqli实现将数据库中一张表信息打印到表格里的方法
Jan 28 PHP
支持中文、字母、数字的PHP验证码
May 04 PHP
最新制作ThinkPHP3.2.3完全开发手册
Nov 23 PHP
yii2.0实现验证用户名与邮箱功能
Dec 22 PHP
PHP开发中解决并发问题的几种实现方法分析
Nov 13 PHP
thinkPHP5框架分页样式类完整示例
Sep 01 PHP
laravel添加角色和模糊搜索功能的实现代码
Jun 22 PHP
CI框架中libraries,helpers,hooks文件夹详细说明
Jun 10 #PHP
PHP图片等比例缩放生成缩略图函数分享
Jun 10 #PHP
CI(CodeIgniter)框架中的增删改查操作
Jun 10 #PHP
PHP定时更新程序设计思路分享
Jun 10 #PHP
CI(CodeIgniter)框架配置
Jun 10 #PHP
教你如何用php实现LOL数据远程获取
Jun 10 #PHP
PHP面向对象教程之自定义类
Jun 10 #PHP
You might like
C/S和B/S两种架构区别与优缺点分析
2014/10/23 PHP
smarty高级特性之对象的使用方法
2015/12/25 PHP
php 三大特点:封装,继承,多态
2017/02/19 PHP
给页面渲染时间加速 干掉Dom Level 0 Event
2012/12/19 Javascript
jquery validate 自定义验证方法介绍 日期验证
2014/02/27 Javascript
微信浏览器内置JavaScript对象WeixinJSBridge使用实例
2015/05/25 Javascript
JavaScript中的Math.LN2属性用法详解
2015/06/12 Javascript
JS实现的新浪微博大厅文字内容滚动效果代码
2015/11/05 Javascript
如何使用jquery easyui创建标签组件
2015/11/18 Javascript
jQuery获取当前点击的对象元素(实现代码)
2016/05/19 Javascript
使用jquery datatable和bootsrap创建表格实例代码
2017/03/17 Javascript
让网站自动生成章节目录索引的多个js代码
2018/01/07 Javascript
nodejs require js文件入口,在package.json中指定默认入口main方法
2018/10/10 NodeJs
详解vue-cli3 中跨域解决方案
2019/04/10 Javascript
浅谈Vue.use到底是什么鬼
2020/01/21 Javascript
详解Howler.js Web音频播放终极解决方案
2020/08/23 Javascript
全局安装 Vue cli3 和 继续使用 Vue-cli2.x操作
2020/09/08 Javascript
python内置函数:lambda、map、filter简单介绍
2017/11/16 Python
Python使用logging模块实现打印log到指定文件的方法
2018/09/05 Python
Django objects的查询结果转化为json的三种方式的方法
2018/11/07 Python
python实现多层感知器
2019/01/18 Python
详解python 利用echarts画地图(热力图)(世界地图,省市地图,区县地图)
2019/08/06 Python
Windows 下python3.8环境安装教程图文详解
2020/03/11 Python
UI自动化定位常用实现方法代码示例
2020/10/27 Python
在Python中实现字典反转案例
2020/12/05 Python
图片上传插件ImgUploadJS:用HTML5 File API 实现截图粘贴上传、拖拽上传
2016/01/20 HTML / CSS
限量版运动鞋和街头服饰:TheDrop
2020/09/06 全球购物
宣传标语大全
2014/07/01 职场文书
七夕相亲活动策划方案
2014/08/31 职场文书
群众路线查摆问题整改措施思想汇报
2014/10/10 职场文书
离婚答辩状范文
2015/05/22 职场文书
春风化雨观后感
2015/06/11 职场文书
大学运动会加油稿
2015/07/22 职场文书
七夕情人节问候语
2015/11/11 职场文书
Python如何利用正则表达式爬取网页信息及图片
2021/04/17 Python
Vue3如何理解ref toRef和toRefs的区别
2022/02/18 Vue.js