理解真实世界中 Go 的并发 BUG
有几个学生研究归纳了go编程中的并发bugs , 发表了一篇(英文)论文:《Understanding Real-World Concurrency Bugs in Go》 。 为你下载好了 PDF , 关注公众号 Go语言中文网 , 回复 gostudy 获取 。
在此做一个笔记 , 便于查阅 。
文章以六个产品级go应用作为研究对象:Docker、Kubernetes、etcd、gRPC、CockroachDB、BoltDB , 总共研究了这些应用中的171个bug , 研究它们的根本原因 , 并重现这些bugs , 以及检查它们的修复补丁 。 最后用两个现有go并发bug检测器测试了这些bug 。
文章试图回答一个问题:对于两种线程/协程间通信机制 , 消息传递机制和共享内存机制 , 哪个更不容易出错?
文章从两个维度对bug进行了分类 , bug原因(对共享内存的误用、对消息传递的误用)和bug表现(阻塞性bug、非阻塞性bug) 。
研究结果及提交日志可以在以下地址查阅:
many concurrency bugs are caused by the mixed usage of message passing and other new semantics and new libraries in Go, which can easily be overlooked but hard to detect.
背景使用共享内存实现同步Go支持协程间共享内存 , 提供了多种传统的同步手段 , 如锁(Mutex)、读写锁(RWMutex)、条件变量(Cond)、原子读写(atomic) 。 go的RWMutex实现与C中的pthread_rwlock_t不同 , go中的写锁请求优先级高于读锁 。
go中还有一些新特性 , Once保证一个函数只执行一次:使用 Once.Do(f) 方法 , 即使这一语句被多个协程调用了多次 , 也只有第一次的时候 , 函数f会被执行 。
和C中的pthread_join类似 , go使用WaitGroup来实现等待协程对其他协程的等待 。
使用消息传递实现同步channel(chan)是go的新特性 , 学习go语言编程的都应该熟悉了 。 channel分有缓冲和无缓冲两种(buffered and unbuffered) 。
使用select可以从多路channel中进行选择 。 当有多路case有效时 , select会从中随机选择一个去执行 , 这种随机性可能会造成bug 。
Go引入了几种新机制来简化协程间的交互 , 如用context携带数据传递在不同协程之间 , 还有Pipe可在读协程和写协程之间传递流式数据 。 这两种都是新的消息传递机制 , 不注意的话可能引起新的并发bug 。
Go并发模型在研究并发bug前 , 文章先研究了go中的并发模型 。
首先统计了那几个应用中创建gorutine的(静态)语句数量(位置数量) , 如下表:
文章插图
img
文章觉得喜欢用匿名函数创建gorutine的多些(除了kubernetes和BoltDB) , 另外还发现C语言版gRPC比go语言版更少创建线程语句 。
然后 , 文章还统计了各种同步机制的使用比例 , 如下图:
文章插图
img
从中可以看出 , 共享内存机制的锁还是用得最多啊!
同时 , 这些机制的使用比例 , 随着项目时间推进 , 是否有什么变化趋势的?似乎没有明显变化 , 如下截图:
文章插图
img
Bug分类分类如下:
文章插图
img
从数值看 , 阻塞性bug和非阻塞性bug出现数量差不多 。
(笔者注:对于原因而言 , 从数值上看使用共享内存的造成bug比较多 , 但是这里只统计了绝对值 , 没有和前面共享机制的使用量结合起来考虑比例 , 似乎不大妥当 。 )
对于这些bug , 文章作者使用相应有bug的版本 , 根据bug报告中的操作尝试重现这些bug , 结果发现并发bug是很难重现的 。 从而这些bug存在时间都比较长 , 而一旦被发现 , 一般会比较快地得到解决 。 bug生存时间统计如下:
- 「新阁教育」面对万物互联的智能世界,你是否也想分一杯羹
- 设计模式6之代理模式
- 2020世界VR产业大会云峰会演讲嘉宾 | 2018年图灵奖获得者,蒙特利尔大学教授Yoshua Bengio
- 分析|用数据量化方法透视不确定性世界
- 世界上第一台计算机是什么?为什么使用二进制而不是十进制?
- 十八年前曾惊艳世界的手机设计,如今看上去仍然很美
- 面向销售自动化的基于数据扩增和真实图像合成的鲁棒多目标检测
- 人工智能驱动的零接触网络在5G世界中的作用
- 中国5G:用户数远超1.5亿,其中非"真实"用户超五千万
- 《深入理解Java虚拟机》:锁优化