php快速导入大量数据的实例方法


Posted in PHP onSeptember 23, 2019

PHP快速导入大量数据到数据库的方法

第一种方法:使用insert into 插入,代码如下:

$params = array(‘value'=>'50′);

 

set_time_limit(0);

 

echo date(“H:i:s”);

 

for($i=0;$i<2000000;$i++){

 

$connect_mysql->insert($params);

 

};

echo date(“H:i:s”);

最后显示为:23:25:05 01:32:05 也就是花了2个小时多!

第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:

echo date(“H:i:s”);

 

$connect_mysql->query(‘BEGIN');

 

$params = array(‘value'=>'50′);

 

for($i=0;$i<2000000;$i++){

 

$connect_mysql->insert($params);

 

if($i%100000==0){

 

$connect_mysql->query(‘COMMIT');

 

$connect_mysql->query(‘BEGIN');

 

}

 

}

 

$connect_mysql->query(‘COMMIT');

 

echo date(“H:i:s”);

第三种方法:使用优化SQL语句

将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL,

在mysql命令行中运行 :

set global max_allowed_packet = 2*1024*1024*10;

消耗时间为:11:24:06 11:25:06;

插入200W条测试数据仅仅用了1分钟!代码如下:

$sql= “insert into twenty_million (value) values”;

 

for($i=0;$i<2000000;$i++){

 

$sql.=”('50′),”;

 

};

 

$sql = substr($sql,0,strlen($sql)-1);

 

$connect_mysql->query($sql);

总结:在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

感谢大家的学习和对三水点靠木的支持。

PHP 相关文章推荐
PHP下MAIL的另一解决方案
Oct 09 PHP
dedecms中显示数字验证码的修改方法
Mar 21 PHP
php smarty函数扩展
Mar 15 PHP
php提交表单时判断 if($_POST[submit])与 if(isset($_POST[submit])) 的区别
Feb 08 PHP
php代码书写习惯优化小结
Jun 20 PHP
关于url地址传参数时字符串有回车造成页面脚本赋值失败的解决方法
Jun 28 PHP
简单谈谈PHP中strlen 函数
Feb 27 PHP
基于PHP实现通过照片获取ip地址
Apr 26 PHP
详解Yii2 定制表单输入字段的标签和样式
Jan 04 PHP
详解PHP字符串替换str_replace()函数四种用法
Oct 13 PHP
PHP Primary script unknown 解决方法总结
Aug 22 PHP
laravel利用中间件防止未登录用户直接访问后台的方法
Sep 30 PHP
关于Yii中模型场景的一些简单介绍
Sep 22 #PHP
php定期拉取数据对比方法实例
Sep 22 #PHP
php设计模式之工厂模式用法经典实例分析
Sep 20 #PHP
php设计模式之单例模式用法经典示例分析
Sep 20 #PHP
php数组和链表的区别总结
Sep 20 #PHP
php输出反斜杠的实例方法
Sep 19 #PHP
php实现session共享的实例方法
Sep 19 #PHP
You might like
自己动手做一个SQL解释器
2006/10/09 PHP
工厂模式在Zend Framework中应用介绍
2012/07/10 PHP
PHP实现抓取HTTPS内容
2014/12/01 PHP
php错误日志简单配置方法
2016/07/11 PHP
php读取出一个文件夹及其子文件夹下所有文件的方法示例
2017/06/15 PHP
Laravel 登录后清空COOKIE的操作方法
2019/10/14 PHP
默认让页面的第一个控件选中的javascript代码
2009/12/26 Javascript
JavaScript加强之自定义event事件
2013/09/21 Javascript
ECMAScript 5中的属性描述符详解
2015/03/02 Javascript
JS动态修改图片的URL(src)的方法
2015/04/01 Javascript
JavaScript中数据结构与算法(五):经典KMP算法
2015/06/19 Javascript
JS实现简单的图书馆享元模式实例
2015/06/30 Javascript
jQuery简单实现input文本框内灰色提示文本效果的方法
2015/12/02 Javascript
分享JavaScript与Java中MD5使用两个例子
2015/12/23 Javascript
js 上传文件预览的简单实例
2016/08/16 Javascript
socket.io与pm2(cluster)集群搭配的解决方案
2017/06/02 Javascript
angular.js4使用 RxJS 处理多个 Http 请求
2017/09/23 Javascript
小程序tab页无法传递参数的方法
2018/08/03 Javascript
Vue前后端不同端口的实现方法
2018/09/19 Javascript
深入了解query和params的使用区别
2019/06/24 Javascript
解决vue项目中遇到 Cannot find module ‘chalk‘ 报错的问题
2020/11/05 Javascript
Java 生成随机字符的示例代码
2021/01/13 Javascript
[01:17]炒鸡美酒第四天TA暴走
2018/06/05 DOTA
使用scrapy实现爬网站例子和实现网络爬虫(蜘蛛)的步骤
2014/01/23 Python
python错误:AttributeError: 'module' object has no attribute 'setdefaultencoding'问题的解决方法
2014/08/22 Python
pycharm2020.1.2永久破解激活教程,实测有效
2020/10/29 Python
应届大学生自荐信格式
2013/09/21 职场文书
内业资料员岗位职责
2014/01/04 职场文书
客户答谢会活动方案
2014/08/31 职场文书
领导干部群众路线教育实践活动剖析材料
2014/10/10 职场文书
2015中学教师个人工作总结
2015/07/22 职场文书
爱护公物主题班会
2015/08/17 职场文书
大学生就业指导课心得体会
2016/01/15 职场文书
MySQL系列之十三 MySQL的复制
2021/07/02 MySQL
python3实现常见的排序算法(示例代码)
2021/07/04 Python
python实现Nao机器人的单目测距
2021/09/04 Python