MySQL中怎么实现快速插入数据,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。
MySQL如何快速插入数据
1.尽量减小导入文件大小
首先给个建议,导出导入数据尽量使用MySQL自带的命令行工具,不要使用Navicat、workbench等图形化工具。特别是大数据量的时候,用MySQL自带的命令行工具导出和导入比用Navicat等图形化工具要快数倍,而且用Navicat等图形化工具做大数据量的操作时很容易卡死。下面简单介绍下怎么用MySQL自带的命令行工具做导入导出。
#导出整个实例
mysqldump-uroot-pxxxxxx--all-databases>all_database.sql
#导出指定库
mysqldump-uroot-pxxxxxx--databasestestdb>testdb.sql
#导出指定表
mysqldump-uroot-pxxxxxxtestdbtest_tb>test_tb.sql
#导入指定SQL文件(指定导入testdb库中)
mysql-uroot-pxxxxxxtestdb
导入的SQL脚本内容大多是先建库建表,然后插入数据,其中耗时最长的应该是insert插入数据了。为了减小文件大小,推荐使用扩展插入方法,即多行一起批量insert,类似这样:insertintotable_namevalues(),(),(),...,();。使用扩展插入比一条条插入,文件大小要小很多,插入速度要快好几倍。使用mysqldump导出的文件默认是使用批量插入的方法,导出时可使用--skip-extended-insert参数改为逐条插入。
可以看出,使用扩展插入的SQL脚本导入大概需要10分钟左右,而一条条插入的SQL脚本导入时间过长,大概1个小时仍然没有导完,一个2个多G的文本导入一个多小时仍未结束,等不及的笔者就手动取消了不过还是可以看出多条一起insert比一条条插入数据要节省数倍的时间。
2.尝试修改参数加快导入速度
在MySQL中,有一对大名鼎鼎的“双一”参数,即innodb_flush_log_at_trx_commit与sync_binlog。为了安全性这两个参数默认值为1,为了快速导入脚本,我们可以临时修改下这两个参数,下面简单介绍下这两个参数:
innodb_flush_log_at_trx_commit默认值为1,可设置为0、1、2
如果innodb_flush_log_at_trx_commit设置为0,logbuffer将每秒一次地写入logfile中,并且logfile的flush(刷到磁盘)操作同时进行.该模式下,在事务提交的时候,不会主动触发写入磁盘的操作。如果innodb_flush_log_at_trx_commit设置为1,每次事务提交时MySQL都会把logbuffer的数据写入logfile,并且flush(刷到磁盘)中去.如果innodb_flush_log_at_trx_commit设置为2,每次事务提交时MySQL都会把logbuffer的数据写入logfile.但是flush(刷到磁盘)操作并不会同时进行。该模式下,MySQL会每秒执行一次flush(刷到磁盘)操作。
sync_binlog默认值为1,可设置为[0,N)
当sync_binlog=0,像操作系统刷其他文件的机制一样,MySQL不会同步到磁盘中去而是依赖操作系统来刷新binarylog。当sync_binlog=N(N>0),MySQL在每写N次二进制日志binarylog时,会使用fdatasync()函数将它的写二进制日志binarylog同步到磁盘中去。
MySQL如何快速插入数据
这两个参数可以在线修改,若想快速导入,可以按照下面步骤来操作:
#1.进入MySQL命令行临时修改这两个参数
setglobalinnodb_flush_log_at_trx_commit=2;
setglobalsync_binlog=2000;
#2.执行SQL脚本导入
mysql-uroot-pxxxxxxtestdb
#3.导入完成再把参数改回来
setglobalinnodb_flush_log_at_trx_commit=1;
setglobalsync_binlog=1;
还有另外一种场景是你的需求是新建从库,或者是不需要产生binlog,这时候导入SQL脚本时可以设置暂时不记录binlog,可以在脚本开头增加setsql_log_bin=0;然后再执行导入,这样速度会进一步加快。如果你的MySQL实例没有开启binlog则不需要再执行该语句了。
关于MySQL中怎么实现快速插入数据问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注亿速云行业资讯频道了解更多相关知识。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。