JAVA 应用必须通过 JDBC 从数据库中取数，有时候我们会发现，数据库的负担一点也不重而且 SQL 很简单，但取数的速度仍然很慢。仔细测试会发现，性能瓶颈主要在 JDBC 上，比如 MySQL 的 JDBC 性能就非常差，Oracle 也不好。但是，JDBC 是数据库厂商提供的包，我们在外部没办法提高性能。
可以想到的办法是利用多 CPU 手段采用并行方案来提速，但 Java 的并行程序非常难写，要考虑资源共享冲突等麻烦事务。
下面介绍使用集算器的并行技术来提升数据库 JDBC 取数性能，可以避免 JAVA 硬编码的复杂性，还能够方便实现多线程结果集的合并。适用于：
源数据规模较大的查询报表
多数据集报表
ETL 数据抽取
通过集算器进行并行取数前需要配置集算器的并行属性。IDE 中通过菜单“工具 - 选项”设置 IDE 支持的最大并行数量，一般建议最大并行数不要超过 CPU 核数。
集算器服务端则需要修改 raqsoftConfig.xml 配置：
有时我们查询的某个表数据量较大、时间较长，这时就可以通过集算器针对单表并行取数提升性能。这里所谓的单表是指通过条件并行读取一份（单表）数据。
假设内存可以容纳全部要读取的数据，并行取数后再进行下一步运算（全内存的计算速度最快）。
订单（Orders）有订单 ID，订购日期，订单金额等字段，其中订单 ID 是递增的整数逻辑主键。
【计算目标】 并行读取某时间段内订单数
面向单表（单条 SQL）并行取数需要通过参数将源数据拆分多段，建立多个数据库连接并行查询。往往需要将数据尽可能平均拆分以避免查询时间不均导致任务等待，同时分段参数尽可能建立在索引字段上以保证分段效率。
集算器参数
根据查询时间段建立脚本参数，查询起止日期
集算器实现
分段策略（一）基于索引字段分段
基于单表（单 SQL）并行取数前需要进行数据分段，尽量保证每个分段的数据平均。而分段参数尽量基于建立索引的字段（如订单编号）。之所以要使用索引字段来分段，是因为使用索引并不会真地遍历整个表，而是直接定位，当数据量较大时优势明显。
集算器脚本
编写并行取数脚本，这里按照建立索引的订单编号进行分段：
| A | B | C | |
|---|---|---|---|
| 1 | =connect(“db”) | ||
| 2 | =A1.query(“select min( 订单 ID) 最小 ID,max(订单 ID) 最大 ID from 订单 where 订购日期 >=? and 订购日期 <=?”,begin,end) | =b=A2. 最小 ID | =e=A2. 最大 ID |
| 3 | =p=4 | / 并行数 | |
| 4 | =p.(b+(e-b)*~\p) | / 分段参数终值 | |
| 5 | =b | A4.to(,p-1).(~+1) | / 分段参数初值 |
| 6 | fork A5,A4 | ||
| 7 | =connect(“db”) | ||
| 8 | =B7.query@x(“select * from 订单 where 订单 ID>=? and 订单 ID<=? and 订购日期 >=? and 订购日期 <=?”,A6(1),A6(2),begin,end) | ||
| 9 | =A6.conj() | / 合并查询结果 |
脚本解析：
1、A2 根据查询起止日期获得最大订单编号和最小订单编号，用于后面分段
2、B2-C2 将最小订单号和最大订单号分别赋值给变量 b 和 e
3、A3 设置并行数，使用并行取数前应检查集算器的并行数配置以及授权中对并行数量的许可
4、A4-A5 根据起止订单编号和并行数计算每个并行任务的起止分段参数（序列）
5、通过 fork 启动多个（4 个）线程，参数为分段起止参数序列，这里可以看到 fork 启动的线程数与参数序列成员数相同。在集算器中，经常将序表、序列作为参数值参与运算，非常方便
6、B7 为每个线程（子任务）建立数据库连接，需要注意连接必须在 fork 子句中建立，以便为多线程分别使用，若共用一个连接无法起到加速取数的效果，数据库会自动把同一连接上的多个请求改为串行执行。因此只有当数据库负担不重，有足够多连接可用时才可以使用并行取数提升性能
7、B8 分别查询每个分段数据，查询结果返回到 A6 格。这里 fork 子句直接返回查询结果（子句最后一行），如果想返回其中某个或某几个计算值可以显示使用 return 关键字返回子线程计算结果
8、返回结果的 A6 格结果，4 个线程返回 4 个结果集
2、A9 合并多路游标，接下来就可以当做一个游标继续使用
3、A10 基于游标，将查询数据分批写入文件中。因为各个线程的运行速度无法保证规律性，所以基于多线程导出数据时次序不可控，对数据顺序有要求时不能使用这个方法。
基于外存游标并行查询与全内存方式非常类似，当内存资源较紧张时可以通过外存计算的方式减少内存占用。
除了通过条件针对单条 SQL（单表）进行并行取数外，在一些多 SQL 查询场景（如报表多数据集）下仍然可以通过并行同时执行多条语句进行取数。
有多个查询 SQL 基于多个表查询数据，需要提升查询性能。
【计算目标】 并行读取 5 个表数据，并完成关联
这里我们使用 5 条非常简单（基于单表）的查询 SQL，实际业务中多条SQL 可以任意复杂。
| A | B | C | |
|---|---|---|---|
| 1 | =connect(“db”) | ||
| 2 | =”select * from 订单 where 订购日期 >=date(‘”/begin/”‘) and 订购日期 <=date(‘”/end/”‘)” | ||
| 3 | select 订单 ID, 产品 ID, 单价, 数量 from 订单明细 | ||
| 4 | select 客户 ID, 公司名称 from 客户 | ||
| 5 | select 雇员 ID, 姓名 from 雇员 | ||
| 6 | select 产品 ID, 产品名称 from 产品 | ||
| 7 | fork [A2:A6] | ||
| 8 | =connect(“db”) | ||
| 9 | =B8.query@x(A7) | ||
| 10 | = 订单 =A7(1) | = 明细 =A7(2) | |
| 11 | = 客户 =A7(3) | = 雇员 =A7(4) | = 产品 =A7(5) |
| 12 | > 订单.switch(客户 ID, 客户: 客户 ID; 雇员 ID, 雇员: 雇员 ID) | ||
| 13 | = 明细.switch(订单 ID, 订单: 订单 ID; 产品 ID, 产品: 产品 ID) | ||
| 14 | =A13.new(订单 ID. 客户 ID. 公司名称: 客户名称, 订单 ID. 订单 ID: 订单编号, 订单 ID. 雇员 ID. 姓名: 销售, 产品 ID. 产品名称: 产品, 单价: 价格, 数量) |
脚本解析：
1、A2-A6 为查询用 SQL 语句串
2、A7 根据多条 SQL 组成序列启动多线程（5 个）
3、B9 每个线程执行 SQL 查询数据将结果返回到 A7 格（5 个结果集组成的序列）
4、A10-C11 通过序号分别获取 5 个结果集
5、为了保证完整性，A12-A14 对 5 个结果集进行关联并通过外键属性化的方式创建结果序表
以上是集算器并行取数的部分示例，事实上集算器还可以做更复杂的并行计算和结果归并。集算器多线程并行的意义在于使用简单、成本低，相对 JAVA 复杂的多线程编程集算器可以简单到几行脚本，相对数据库集群方案集算器的成本更加可控，而且即使部署数据库集群仍然可以使用集算器加速集群单个数据库节点的取数速度。
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
