博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
玩转Java高并发?请先说明下并发下的惊群效应
阅读量:4068 次
发布时间:2019-05-25

本文共 1402 字,大约阅读时间需要 4 分钟。

实际项目中,我们有很多高并发的场景需要考虑、设计,在高并发领域有个很有特点的名词叫惊群效应,你了解吗?

玩转Java高并发?请先说明下并发下的惊群效应

 

一、啥是惊群效应

啥叫惊群效应,有个例子说明的很透彻。当你往一群鸽子中间扔一块食物,虽然最终只有一个鸽子抢到食物,但所有鸽子都会被惊动来争夺,没有抢到食物的鸽子只好回去继续睡觉, 等待下一块食物到来。这样,每扔一块食物,都会惊动所有的鸽子,即为惊群

玩转Java高并发?请先说明下并发下的惊群效应

 

也就是说,虽然只扔了一块实物,但是惊动了整个鸽群,最后只有一个鸽子抢到食物了,浪费了其他鸽子的能量。

二、惊群导致的问题

对于操作系统来说,多个进程/线程在等待同一资源是,也会产生类似的效果,其结果就是每当资源可用,所有的进程/线程都来竞争资源,造成了资源的浪费。

  1. 系统对用户进程/线程频繁的做无效的调度、上下文切换,系统系能大打折扣。
  2. 为了确保只有一个线程得到资源,用户必须对资源操作进行加锁保护,进一步加大了系统开销。

三、常见的惊群场景

1、linux惊群

linux中惊群主要是accept惊群和epoll惊群。

1)accept惊群,以多进程为例,在主进程创建监听描述符listenfd后,fork()多个子进程,多个进程共享listenfd,accept是在每个子进程中,当一个新连接来的时候,会发生惊群。

2)epoll惊群分两种,一是在fork之前创建epollfd,所有进程共用一个epoll;二是在fork之后创建epollfd,每个进程独用一个epoll。

epoll惊群和accept惊群类似,共享一个epollfd, 加锁或标记解决。在新的linux内核版本中都已得到解决。

2、nginx惊群

在nginx中使用的epoll,是在创建进程后创建的epollfd。因些会出现类似linux的惊群问题。即每个子进程worker都会惊醒。

nginx使用了互斥锁来解决惊群的问题

  • 采用了主动的方法去把监听描述符放到epoll中或从epoll移出。
  • 采用互斥锁去解决谁来accept问题,保证了同一时刻,只有一个worker接收新连接(所以nginx并没有惊群问题)。
  • 根据自已的载负情况,决定去不去抢锁,简单方便地解决负载,防止进程因业务太多而导致所有业务都不及时处理。

3、线程池惊群

多线程设计中,经常会用到互斥和条件变量的问题。当一个线程解锁并通知其他线程的时候,就会出现惊群的现象。

  1. pthread_mutex_lock,线程互斥锁的加锁及解锁函数。
  2. pthread_cond_wait,线程池中的消费者线程等待线程条件变量被通知。
  3. pthread_cond_signal,生产者线程通知线程池中的某个或一些消费者线程池,接收处理任务。

这里的惊群现象出现在3里,pthread_cond_signal,语义上看,是通知一个线程。调用此函数后,系统会唤醒在相同条件变量上等待的一个或多个线程(可参看手册)。如果通知了多个线程,则发生了惊群。

1)一般用法,

  • 所有线程共用一个锁,共用一个条件变量。
  • 当pthread_cond_signal通知时,就可能会出现惊群

2)解决惊群的方法,

  • 所有线程共用一个锁,每个线程都有自己的条件变量。
  • pthread_cond_signal通知时,定向通知某个线程的条件变量,不会出现惊群。

玩转Java高并发?请先说明下并发下的惊群效应

 

好了,惊群效应大体了解了吧。惊群有不同的场景和解决方案,在高并发场景下,需要做适当考虑哦。

转载地址:http://mmoji.baihongyu.com/

你可能感兴趣的文章
医疗行业运用企业云盘可以带来什么样的提升
查看>>
能源化工要怎么管控核心数据
查看>>
媒体广告业如何运用云盘提升效率
查看>>
企业如何运用企业云盘进行数字化转型-实现新发展
查看>>
司法如何运用电子智能化加快现代化建设
查看>>
iSecret 1.1 正在审核中
查看>>
IOS开发的开源库
查看>>
IOS开发的开源库
查看>>
Jenkins - sonarqube 代码审查
查看>>
Jenkins + Docker + SpringCloud 微服务持续集成(一)
查看>>
Jenkins + Docker + SpringCloud 微服务持续集成 - 单机部署(二)
查看>>
Jenkins + Docker + SpringCloud 微服务持续集成 - 高可用集群部署(三)
查看>>
Golang struct 指针引用用法(声明入门篇)
查看>>
Linux 粘滞位 suid sgid
查看>>
C#控件集DotNetBar安装及破解
查看>>
Winform皮肤控件IrisSkin4.dll使用
查看>>
Winform多线程
查看>>
C# 托管与非托管
查看>>
Node.js中的事件驱动编程详解
查看>>
mongodb 命令
查看>>