六. Go并发编程--WaitGroup

一. 序言

WaitGroup是Golang应用开发过程中经常使用的并发控制技术。

WaitGroup，可理解为Wait-Goroutine-Group，即等待一组goroutine结束。比如某个goroutine需要等待其他几个goroutine全部完成，那么使用WaitGroup可以轻松实现。

下面是一段demo.go示例

package main

import (

	"fmt"

	"sync"

)

func worker(i int) {

	fmt.Println("worker: ", i)

}

func main() {

    // 实例化一个 wg

	var wg sync.WaitGroup

	// 启动10个worker协程

	for i := 0; i < 10; i++ {

		// 协程执行前 加1

		wg.Add(1)

		go func(i int) {

		    // 执行完毕后执行done,相当于计数减1

			defer wg.Done()

			worker(i)

		}(i)

	}

	// 等待所有的协程执行完毕后，执行其他逻辑

	wg.Wait()

}

demo2.go

下面程序展示了一个goroutine等待另外两个goroutine结束的例子：

package main

import (

    "fmt"

    "time"

    "sync"

)

func main() {

    var wg sync.WaitGroup

    wg.Add(2) //设置计数器，数值即为goroutine的个数

    go func() {

        //Do some work

        time.Sleep(1*time.Second)

        fmt.Println("Goroutine 1 finished!")

        wg.Done() //goroutine执行结束后将计数器减1

    }()

    go func() {

        //Do some work

        time.Sleep(2*time.Second)

        fmt.Println("Goroutine 2 finished!")

        wg.Done() //goroutine执行结束后将计数器减1

    }()

    wg.Wait() //主goroutine阻塞等待计数器变为0

    fmt.Printf("All Goroutine finished!")

}

简单的说，上面程序中wg内部维护了一个计数器：

启动goroutine前将计数器通过Add(2)将计数器设置为待启动的goroutine个数。
启动goroutine后，使用Wait()方法阻塞自己，等待计数器变为0。

3 . 每个goroutine执行结束通过Done()方法将计数器减1。
计数器变为0后，阻塞的goroutine被唤醒。

如何支持多个 goroutine 等待一个 goroutine 完成后再干活呢？

二.源码分析

2.1 信号量

信号量是Unix系统提供的一种保护共享资源的机制，用于防止多个线程同时访问某个资源。

可简单理解为信号量为一个数值：

当信号量>0时，表示资源可用，获取信号量时系统自动将信号量减1；
当信号量==0时，表示资源暂不可用，获取信号量时，当前线程会进入睡眠，当信号量为正时被唤醒；

由于在WaitGroup实现中也是用了信号量，因此做一个简单介绍

WaitGroup是一个结构体

type WaitGroup struct {

	noCopy noCopy

	// 64-bit value: high 32 bits are counter, low 32 bits are waiter count.

	// 64-bit atomic operations require 64-bit alignment, but 32-bit

	// compilers do not ensure it. So we allocate 12 bytes and then use

	// the aligned 8 bytes in them as state, and the other 4 as storage

	// for the sema.

	state1 [3]uint32

}

结构十分简单，由 nocopy 和 state1 两个字段组成，其中 nocopy 是用来防止复制的.

nocopy是一个空结构体，包含两个方法

type noCopy struct{}

// Lock is a no-op used by -copylocks checker from `go vet`.

func (*noCopy) Lock()   {}

func (*noCopy) Unlock() {}

由于嵌入了 nocopy 所以在执行 go vet 时如果检查到 WaitGroup 被复制了就会报错。这样可以一定程度上保证 WaitGroup 不被复制，对了直接 go run 是不会有错误的，所以我们代码 push 之前都会强制要求进行 lint 检查，在 ci/cd 阶段也需要先进行 lint 检查，避免出现这种类似的错误。

state1是个长度为3的数组，其中包含了state和一个信号量，而state实际上是两个计数器：

counter：当前还未执行结束的goroutine计数器
waiter count: 等待goroutine-group结束的goroutine数量，即有多少个等候者
semaphore: 信号量

state1 的设计非常巧妙，这是一个是十二字节的数据，这里面主要包含两大块，counter 占用了 8 字节用于计数，sema 占用 4 字节用做信号量.

为什么要这么搞呢？直接用两个字段一个表示 counter，一个表示 sema 不行么？

不行，我们看看注释里面怎么写的。

代码注释中大概意思是：在做 64 位的原子操作的时候必须要保证 64 位（8 字节）对齐，如果没有对齐的就会有问题，但是 32 位的编译器并不能保证 64 位对齐所以这里用一个 12 字节的 state1 字段来存储这两个状态，然后根据是否 8 字节对齐选择不同的保存方式。

这个操作巧妙在哪里呢？

如果是 64 位的机器那肯定是 8 字节对齐了的，即第一种方式
如果在 32位的机器上
- 如果恰好 8 字节对齐，那也是第一种方式取前面的8字节
- 如果是没有对其，但是32位4字节是对齐的，所以只需要后裔四个字节，那个8个字节就对齐了

所以通过 sema 信号量这四个字节的位置不同，保证了 counter 这个字段无论在 32 位还是 64 为机器上都是 8 字节对齐的，后续做 64 位原子操作的时候就没问题了。

考虑到字节是否对齐，三者出现的位置不同，为简单起见，依照字节已对齐情况下，三者在内存中的位置如下所示：

state 方法实现如下

func (wg *WaitGroup) state() (statep *uint64, semap *uint32) {

    // 取8的余数如果余数为0说明8字节对齐了

	if uintptr(unsafe.Pointer(&wg.state1))%8 == 0 {

		return (*uint64)(unsafe.Pointer(&wg.state1)), &wg.state1[2]

	} else {

		return (*uint64)(unsafe.Pointer(&wg.state1[1])), &wg.state1[0]

	}

}

state 方法返回 counter 和信号量，通过 uintptr(unsafe.Pointer(&wg.state1))%8 == 0 来判断是否 8 字节对齐

2.1 Add

func (wg *WaitGroup) Add(delta int) {

    // 先从 state 当中把数据和信号量取出来

	statep, semap := wg.state()

    // 在 waiter 上加上 delta 值

	state := atomic.AddUint64(statep, uint64(delta)<<32)

    // 取出当前的 counter

	v := int32(state >> 32)

    // 取出当前的 waiter，正在等待 goroutine 数量

	w := uint32(state)

    // counter 不能为负数

	if v < 0 {

		panic("sync: negative WaitGroup counter")

	}

    // 这里属于防御性编程

    // w != 0 说明现在已经有 goroutine 在等待中，说明已经调用了 Wait() 方法

    // 这时候 delta > 0 && v == int32(delta) 说明在调用了 Wait() 方法之后又想加入新的等待者

    // 这种操作是不允许的

	if w != 0 && delta > 0 && v == int32(delta) {

		panic("sync: WaitGroup misuse: Add called concurrently with Wait")

	}

    // 如果当前没有人在等待就直接返回，并且 counter > 0

	if v > 0 || w == 0 {

		return

	}

    // 这里也是防御 主要避免并发调用 add 和 wait

	if *statep != state {

		panic("sync: WaitGroup misuse: Add called concurrently with Wait")

	}

	// 唤醒所有 waiter，看到这里就回答了上面的问题了

	*statep = 0

	for ; w != 0; w-- {

		runtime_Semrelease(semap, false, 0)

	}

}

2.2 Wait

wait 主要就是等待其他的 goroutine 完事之后唤醒

func (wg *WaitGroup) Wait() {

	// 先从 state 当中把数据和信号量的地址取出来

    statep, semap := wg.state()

	for {

     	// 这里去除 counter 和 waiter 的数据

		state := atomic.LoadUint64(statep)

		v := int32(state >> 32)

		w := uint32(state)

        // counter = 0 说明没有在等的，直接返回就行

        if v == 0 {

			// Counter is 0, no need to wait.

			return

		}

		// waiter + 1，调用一次就多一个等待者，然后休眠当前 goroutine 等待被唤醒

		if atomic.CompareAndSwapUint64(statep, state, state+1) {

			runtime_Semacquire(semap)

			if *statep != 0 {

				panic("sync: WaitGroup is reused before previous Wait has returned")

			}

			return

		}

	}

}

2.3 Done

Done是对 Add的封装

func (wg *WaitGroup) Done() {

	wg.Add(-1)

}

三. 总结

简单说来，WaitGroup通常用于等待一组“工作协程”结束的场景，其内部维护两个计数器，这里把它们称为“工作协程”计数器和“坐等协程”计数器，

WaitGroup对外提供的三个方法分工非常明确：

Add(delta int)方法用于增加“工作协程”计数，通常在启动新的“工作协程”之前调用；
Done()方法用于减少“工作协程”计数，每次调用递减1，通常在“工作协程”内部且在临近返回之前调用；
Wait()方法用于增加“坐等协程”计数，通常在所有”工作协程”全部启动之后调用；

WaitGroup 可以用于一个 goroutine 等待多个 goroutine 干活完成，也可以多个 goroutine 等待一个 goroutine 干活完成，是一个多对多的关系

多个等待一个的典型案例是 singleflight，这个在后面将微服务可用性的时候还会再讲到，感兴趣可以看看源码

3.1 注意事项

Done()方法除了负责递减“工作协程”计数以外，还会在“工作协程”计数变为0时检查“坐等协程”计数器并把“坐等协程”唤醒。

需要注意的是，Done()方法递减“工作协程”计数后，如果“工作协程”计数变成负数时，将会触发panic，这就要求Add()方法调用要早于Done()方法。
此外，通过Add()方法累加的“工作协程”计数要与实际需要等待的“工作协程”数量一致，否则也会触发panic。
当“工作协程”计数多于实际需要等待的“工作协程”数量时，“坐等协程”可能会永远无法被唤醒而产生列锁，此时，Go运行时检测到死锁会触发panic
当“工作协程”计数小于实际需要等待的“工作协程”数量时，Done()会在“工作协程”计数变为负数时触发panic。

巴特西