Java并行流指北 - 电脑学习网

发布时间：2023-07-10 文章分类：Java知识投稿人：樱花字号：默认 | 大 | 超大打印

一、前言

Java并行流，方便了并发操作，但是不注意可能会导致问题。
如最大线程数，怎么控制并发数，类加载器，线程上下文变化，ForkJoinPool 的 execute、submit、invoke 方法的区别等。
注意：本文以 openjdk 11.0.10 为例，没有特殊说明时，都是指 ForkJoinPool.commonPool()

二、注意点

1. 并行度

并行度不等于最大线程数(maximumPoolSize)，下图 commonPool 有49个线程，但是并行度为1
默认的并行度为 CPU核数 - 1，最小为 1
可通过 -Djava.util.concurrent.ForkJoinPool.common.parallelism=数量设置undefined

Java并行流指北

2. 容器里面的并行度

下图中，/sys/fs/cgroup/cpu/cpu.cfs_quota_us 除以 /sys/fs/cgroup/cpu/cpu.cfs_period_us = cpu核数
不等于 nproc，更不等于获得宿主机的 lscpu | grep 'CPU(s):'undefined

Java并行流指北

3. 最大线程数

并行度不等于最大线程数(maximumPoolSize)
即使并行度 parallelism 为1，还有备用线程(maximumPoolSize、COMMON_MAX_SPARES)
commonPool 默认 256，自定义 ForkJoinPool() 默认 32767。这样看，比较少会出现线程数不够的情况。undefined

Java并行流指北

4. 并发太大，压垮后端

假如 ForkJoinPool.commonPool() 线程比较多，并行流集合的元素也比较多时，给下游较大压力
jstack pid | grep -c commonPool

5. 线程上下文变化

如：获取不到用户信息了，可以获取到用户信息以后，传到并行流使用

final String deviceUdid = RequestUtils.getDeviceUdid();
data.parallelStream().forEach(d -> {
	// use deviceUdid instead of RequestUtils.getDeviceUdid() do something
});

6. ForkJoinPool 的 execute、submit、invoke 方法的区别

有些简单的任务，不想单独创建线程池，可以用 ForkJoinPool.commonPool()
execute()：异步执行，没有返回值，不能等待执行完成
submit()：异步执行，返回 ForkJoinTask，需增加 .join() 等待完成
invoke()：等于 submit() + join()

7. spring boot使用Java并行流发送kafka消息报错

类加载器不一样，详见 spring boot 使用 Java 并行流发送 kafka 消息报错
使用 spring-boot-maven-plugin 打包以后，依赖在 jar里面自定义位置(BOOT-INF/lib/)，使用 org.springframework.boot.loader.LaunchedURLClassLoader 加载
ForkJoinPool.commonPool 默认使用 DefaultForkJoinWorkerThreadFactory，用的系统ClassLoader，所以并行流加载不到依赖的 class
可通过 -Djava.util.concurrent.ForkJoinPool.common.threadFactory 设置自定义线程工厂，使用当前 ClassLoader 解决undefined

Java并行流指北

8. 自定义并行流线程池

参考 concurrency - Custom thread pool in Java 8 parallel stream - Stack Overflow

方案一(各种情况都有效)CompletableFuture.runAsync(list.parallelStream().forEach(), new ForkJoinPool(2)).join()
方案二(部分场景似乎没有效果)// 第4个参数 asyncMode，默认 false，设置为 true 适用于 FIFO ForkJoinPool forkJoinPool = new ForkJoinPool(2, pool -> new ForkJoinWorkerThread(pool) { }, null, false); forkJoinPool.invoke(() -> list.parallelStream().forEach());

9. 控制并发数

可考虑把集合切分成需要的份数，然后 parallelStream()List<String> list = List.of("a", "b", "c"); CollUtil.split(list, list.size() / 2 + 1).parallelStream().forEach(b -> { b.stream().forEach(System.out::println); });

10. 顺序消费

如 forEachOrdered 会导致没有并发效果
需要并行，还要使用输入顺序的，可考虑把集合切分成需要的份数，然后 parallelStream()

三、总结

Java并行流，方便了并发操作，同时需要了解底层实现、限制，避免不注意可能导致的问题
参考：ForkJoinPool 源码分析 - 竺旭东 - 博客园 (cnblogs.com)
https://github.com/agile6v/container_cpu_detection
https://stackoverflow.com/questions/21163108/custom-thread-pool-in-java-8-parallel-stream

标签 java, key