时间:2021-05-02
有时候需要制造一些测试的数据,以mysql官方给的测试库为基础,插入十万,百万或者千万条数据。利用一些函数和存储过程来完成。
官方给的测试库地址:https://github.com/datacharmer/test_db
导入官方的数据库,做了一些简化,留下了部门表,员工表和雇佣表三张表,去掉了外键关联。因为是测试数据,日期的对应关系不具备准确性。
必要的函数
生成随机字符串
RAND():生成0~1之间的随机数
FLOOR:向下整数 (FlOOR(1.2)=1)
CEILING 向上取整 (CEILING(1.2)=2)
substring:截取字符串
concat:字符串连接
? 1 2 3 4 5 6 7 8 9 10 11 CREATE DEFINER=`root`@`localhost` FUNCTION `rand_string`(n INT) RETURNS varchar(255) CHARSET latin1 BEGIN DECLARE chars_str varchar(100) DEFAULT 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz'; DECLARE return_str varchar(255) DEFAULT ''; DECLARE i INT DEFAULT 0; WHILE i < n DO SET return_str = concat(return_str,substring(chars_str , FLOOR(1 + RAND()*62 ),1)); SET i = i +1; END WHILE; RETURN return_str; END查看自定义的所有函数
? 1 show function status测试使用:
? 1 select rand_string(5);生成随机年月日字符串
生成一个指定时间段内的随机日期
? 1 2 3 SELECT date( from_unixtime( unix_timestamp( '2000-01-01' ) + floor( rand() * ( unix_timestamp( '2020-12-31' ) - unix_timestamp( '2000-01-01' ) + 1 ) ) ));函数:生成指定时间段内的随机日期
? 1 2 3 4 5 6 7 8 9 10 11 12 CREATE DEFINER=`root`@`localhost` FUNCTION `rand_date_string`(startDate varchar(255),endDate varchar(255)) RETURNS varchar(255) CHARSET latin1 BEGIN DECLARE return_str varchar(255) DEFAULT ''; SET return_str =date( from_unixtime( unix_timestamp( startDate ) + floor( rand() * ( unix_timestamp( endDate ) - unix_timestamp( startDate ) + 1 ) ) ) ); RETURN return_str; END测试使用:
? 1 2 3 select rand_date_string('2000-01-01','2020-12-31'); //结果 2001-09-10存储过程生成数据
给每个部门插入一百万员工,那么员工表就有九百万的数据。
? 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 CREATE DEFINER=`root`@`localhost` PROCEDURE `data`() BEGIN DECLARE i INT DEFAULT 1; DECLARE j INT DEFAULT 0; DECLARE id INT DEFAULT 0; WHILE i < 10 DO WHILE j < 1000000 DO insert into employees_m (emp_no,birth_date,first_name,last_name,gender,hire_date) VALUES( id,rand_date_string('1970-01-01','1997-01-01'),rand_string(5),rand_string(5),'M',NOW()); insert into dept_emp_m (emp_no,dept_no,from_date,to_date) values( id,concat('d00',i),rand_date_string('1990-01-01','2020-12-31'),'2020-12-31'); SET j=j+1; SET id=id+1; END WHILE; SET j = 0; SET i=i+1; END WHILE; END插入九百万条数据大概用时:4868s
上面的方式插入数据会很慢,可以将数据插入到内存表,就是将表的存储引擎修改为MEMORY这样就会使用内存去存储数据,会比直接插入到INNODB引擎的表中快很多,只不过就是没有持久化,但是速度贼快,插入一千万条数据大概需要时间: 1227.89s
附录
修改表存储引擎
? 1 ALTER TABLE dept_emp_m ENGINE=MEMORY;调整内存表的大小,修改配置文件
? 1 2 3 [mysqld] max_heap_table_size = 2048M tmp_table_size = 2048M以上就是MySQL制作具有千万条测试数据的测试库的方法的详细内容,更多关于MySQL 千万条测试数据的资料请关注服务器之家其它相关文章!
原文链接:https://www.cnblogs.com/lichlaughing/p/14055643.html?utm_source=tuicool&utm_medium=referral
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
前言备注:测试数据库版本为MySQL8.0测试数据:createtablezqs(idint,strvarchar(1000));insertintozqs(i
一.测试环境:OS:Windowsxpsp2php:php4.3.10(mysql4.1.9apache1.3.33二.测试数据库结构:-----start--
背景:最近测试web项目需要多条测试数据,sql中嫌要写多条,就看了看python如何向MySQL批量插数据(pymysql库)1、向MySQL批量插数据imp
代码使用方法见注释#-*-coding:UTF-8-*-fromlxmlimportetreesource=u'''测试数据1测试数据2测试数据3图片'''#从
软件开发数据库进行测试的方法: 1、数据库设计的测试数据库是应用的基础,其性能直接影响应用软件的性能。为了使数据库具有较好的性能,需要对数据库中的表进行规范化