1. 同步
1.1. 代码块对一组变量的访问看上去是串行的:每次只有一个线程可以访问内存
1.1.1. 由synchronized关键字保护的代码块
1.1.2. 用java.util.concurrent.lock.Lock类的实例保护的代码
1.1.3. java.util.concurrent包中的代码
-
1.1.4. java.util.concurrent.atomic包中的代码
-
1.1.4.1. 原子类不使用同步,至少在CPU编程方面是这样
1.1.4.1.1. 使用CAS指令的线程在同时访问同一资源时不会阻塞
1.1.4.2. 原子类利用了比较并交换(Compare and Swap,CAS)CPU指令
1.1.4.3. 包中的类使用了基于CAS的原语,而不是传统的同步
-
1.2. 同步的目的是保护对内存中值(或变量)的访问
1.3. 同步需要独占访问资源
- 1.3.1. 需要同步锁的线程在另一个线程持有该资源时会阻塞
2. 同步的代价
2.1. 同步和可扩展性
2.1.1. 应用程序在同步块中花费的时间会影响应用程序的可扩展性
-
2.1.2. 阿姆达尔定律(Amdahl's law)
2.1.2.1. 加速比=1÷((1-P)+P÷N)
2.1.2.2. P是并行运行的程序量
-
2.1.2.3. N是使用的线程数量
2.1.2.3.1. 假设每个线程都有可用的CPU
2.1.2.4. 随着P减小,也就是说,随着更多的代码位于串行块中,拥有多个线程的性能收益也会减少
2.2. 获取同步锁需要CPU周期
2.3. 获取同步锁的开销
-
2.3.1. 如果锁是无竞争的,即两个线程没有在同一时间试图访问锁,那么这个开销是非常小的
-
2.3.1.1. 非膨胀锁(unin?ated lock)
2.3.1.1.1. 无竞争的synchronized锁
2.3.1.1.2. 获取一个非膨胀锁的开销在几百纳秒左右
2.3.1.2. 无竞争的CAS结构会有更小的性能损失
-
-
2.3.2. 有竞争的结构开销会更大
2.3.2.1. 当第二个线程试图访问一个synchronized锁时,可以预见锁会变成膨胀的in?ated
2.3.2.2. 第二个线程必须等待第一个线程释放锁
2.3.2.3. 这个等待时间取决于应用程序
-
2.3.3. 在使用CAS指令的代码中,竞争操作的开销是不可预知的
-
2.3.3.1. 在最坏的情况下,两个线程可能会陷入无限循环
2.3.3.1.1. 因为每个线程修改CAS保护的值之后,发现另一个线程同时进行了修改
-
2.4. Java特有的,并取决于Java内存模型(Java Memory Model)
2.4.1. 不同于C++和C这样的语言,它对关于同步的内存语义有严格的保证,并且该保证适用于基于CAS的保护、传统的同步,以及volatile关键字
2.4.2. 变量会临时存储在寄存器中,这比直接在主内存中访问它们要高效得多
2.4.3. 寄存器的值对其他线程来说是不可见的
2.4.4. 修改寄存器中值的线程必须在某个时刻将该寄存器刷新到主内存中,这样其他线程才能看到这个值
2.4.5. 什么时候刷新寄存器的值,是由线程同步决定的
2.4.6. 对于标记为volatile的变量,无论什么时候被修改,都会被更新到主内存中
-
2.4.7. 将大量连续的、细粒度的调用包装在一个同步块中
- 2.4.7.1. 同步块执行时间很长就不适用
2.5. 同步的内存语义、基于CAS的结构,以及volatile关键字会对性能产生负面影响,特别是在有很多寄存器的大型机器上
3. 避免同步
3.1. 避免同步对象的竞争是减轻其性能影响的有效方法
- 3.1.1. 在每个线程中使用不同的对象,这样访问对象时就不存在竞争了
3.2. 为了实现线程安全,很多Java对象是同步的,但它们未必需要共享
3.2.1. 通过使用线程局部变量,对象的总数受到了限制(使对GC的影响最小化),而且每个对象都不会有线程竞争
3.2.2. 线程局部变量永远都不会发生竞争,它们非常适合保存实际上不需要在线程间共享的同步对象
3.3. 用基于CAS的替代方案
3.3.1. 在某种意义上,这并不能避免同步,而是以不同的方式解决问题
3.3.2. 在这种情况下,通过减少同步的损失,可以得到与避免同步相同的效果
3.3.3. 对于确实需要共享的对象,基于CAS的工具是一种避免传统同步的方法
3.4. 如果对资源的访问是无竞争的,基于CAS的保护会比传统的同步稍微快一些
3.5. 如果访问始终是无竞争的,完全无保护还会再快一些,并且可以避免边界情况
3.6. 如果对资源的访问存在轻度或者适度的竞争,基于CAS的保护会比传统的同步更快(通常会快得多)
3.7. 随着所访问资源的竞争越来越激烈,传统的同步将在某个时候成为更高效的选择
- 3.7.1. 在实践中,这种情况只发生在运行了很多线程的大型机器上
3.8. 当只读取值而不写入的时候,基于CAS的保护不会受竞争的影响
3.9. 没有什么可以替代在代码运行的实际生产条件下进行广泛的测试,只有这样,才能确定某一特定方法的哪种实现更好
4. 伪共享
4.1. false sharing
4.2. 缓存行共享(cache line sharing)
4.3. 对于频繁修改volatile变量或退出同步块的代码,伪共享会显著降低性能
4.4. 伪共享造成的最严重的损失,基本上每个写操作都会使所有其他缓存行失效,而且性能是串行的
4.5. 伪共享不一定涉及同步(或volatile)变量,每当CPU缓存中的数据值被写入时,持有相同数据范围的其他缓存必须失效
4.6. Java内存模型要求,只有在同步原语(包括CAS结构和volatile)结束时,数据才必须写入主内存。所以这种情况是最常遇到的
4.7. 标准工具集中,没有任何一个可以解决伪共享,因为这需要与处理器架构相关的专业知识
4.7.1. 某些原生分析器可以提供和给定代码行每条指令的时钟周期数(cycles per instruction,CPI)相关的信息
4.7.2. 在一个循环内,某个简单指令的CPI很高,就表明代码正在等待将目标内存重加载到CPU缓存
4.8. 避免伪共享的主要方法是代码检查
4.9. 防止伪共享需要修改代码
-
4.9.1. 理想的情况是,所涉及的变量可以不那么频繁地写入
- 4.9.1.1. 极少的写入次数不太可能引起缓存行的竞争,即使4个线程在循环结束时同时更新结果,也不会对性能产生影响
-
4.9.2. 对变量进行填充,这样它们就不会被加载到同一缓存行上
- 4.9.2.1. 也可以使用填充来将冲突的变量移至不同的缓存行
4.10. 避免伪共享最好的方式是将数据移至局部变量,稍后再存储它们
5. @Contended注解
5.1. JDK私有类中的一个特性可以减少设定字段上的缓存竞争
5.2. 通过使用@sun.misc.Contended标记由JVM自动填充的变量来实现的
5.3. 这个注解是私有的
5.3.1. 在Java 8中,它属于sun.misc包,没有什么能阻止你在自己的代码中使用这个包
-
5.3.2. 在Java 11中,它属于jdk.internal.vm.annotation包,由于Java 11使用了模块系统
- 5.3.2.1. 如果不用-add-exports标志将该包添加到java.base模块导出的类集中,就无法使用这个包编译类
5.4. -XX:+RestrictContended标志
-
5.4.1. 默认是true
5.4.1.1. 意味着该注解仅限于JDK的类使用
5.4.1.2. JVM会忽略这个注解
5.4.2. 要让应用程序代码使用该注解,需要加上-XX:-RestrictContended标志
5.5. -XX:-EnableContended
-
5.5.1. 默认是true
- 5.5.1.1. -XX:+EnableContended
-
5.5.2. 禁用JDK的自动填充
- 5.5.2.1. 这会减小Thread和ConcurrentHashMap类的大小,这两个类都使用这个注解来填充它们的实现,以防止伪共享