Golang Go语言中简单的协程工作池

写了一个简单的 golang 协程工作池，用于学习交流想和大家讨论一下。 https://github.com/ppmoon/pool 欢迎 star 共同学习交流

GOLANG 简单的工作池

本 repo 是一个简单的 golang 工作池，仅供交流和学习使用。golang 工作池的作用是可以限制 goroutine 的启动数量。

use

    //NewTask 是放到工作池当中运行的函数。使用的时候需要先实例化他
	w := pool.NewTask(func() error { fmt.Println(time.Now());return nil })
	//实例化工作池
	p := pool.NewPool(3)
	//这里启用另外一个 goroutine 向 worker 当中写入，不然会出现 all goroutines are asleep，需要从管道中获得一个数据，而这个数据必须是其他 goroutine 线放入管道的
	go func() {
		for {
			p.Worker <- w //把需要运行的函数依次放入工作池。
		}
	}()
	p.Run()

讨论

为什么需要工作池？

一般情况下，goroutine 在操作系统上只要你的硬件资源够它是可以无限启动的。但是如果出现大规模的启动 goroutine 的情况会造成大量占用系统资源，我们知道普通的部署一个 golang 应用的时候操作系统不仅仅会运行 golang 程序还有其他辅助的程序运行，所以理论上讲工作池的目的就是为了限制 golang 的启动数量，保证不会出现硬件计算资源溢出的情况。

实际我们真的需要工作池吗？

理论上来讲，我们其实不需要在 golang 层面设置工作池的。如果是网络请求大部分时候我们会使用 nginx 或者其他网关，中间件作为 golang 程序的代理，我们可以在请求访问流量进入到 golang 程序之前使用 nginx 或者其他中间件限制流量或者使用熔断机制来保证我们的 golang 程序不会开满 goroutine 造成硬件计算资源溢出的情况。 如果流量小完全没必要限制 goroutine 如果流量大没有熔断机制对整个服务都是很危险的。

工作池性能的讨论

我在编写自己的工作池之前使用了很多其他的工作池，我发现工作池本身并不会提升执行效率，反而会拖慢效率，使用工作池程序执行时间大概是原来的 2/3,但是有一些 pool 会在一定程度上节省内存，比如 ants，但内存的节省我觉得更多的是在于数据结构的复用，没有大量的重复创建数据对象导致的内存节省。

goroutine 是否需要像其他编程语言一样使用 I/O 多路复用？

根据我在网上可以搜索到的资料，以及我自己的理解，golang 本身是有一个 pool 用来复用 goroutine 的，所以我们并不需要自己再去实现一个多路复用的功能，反而会拖慢程序。

其他

以上论调并没有严谨的验证过，只是个人遇到的情况分享，希望和大家共同讨论学习，共同进步。希望以上有说的或者表述不对，以及代码有写的需要纠正的地方可以收到大家的反馈。虚心向大家求学。 https://github.com/ppmoon/pool 欢迎 star 共同学习交流


Golang Go语言中简单的协程工作池

更多关于Golang Go语言中简单的协程工作池的实战教程也可以访问 https://www.itying.com/category-94-b0.html

3 回复

学习了，感觉多数场景不需要协程池

更多关于Golang Go语言中简单的协程工作池的实战系列教程也可以访问 https://www.itying.com/category-94-b0.html


goroutine 其实本身就是个 threadpool 一样的东西……

在Go语言中，协程（goroutine）是一种轻量级的线程，非常适合处理并发任务。工作池（work pool）是一种设计模式，用于管理一组并发执行的任务。结合这两者，可以实现一个高效的协程工作池。

以下是一个简单的协程工作池的实现示例：

  1. 定义工作池结构体： 定义一个结构体来管理工作池，包括任务队列、工作协程数量、任务通道等。

  2. 启动工作协程： 使用for循环启动指定数量的工作协程，这些协程从任务通道中读取任务并执行。

  3. 提交任务： 提供一个方法，将任务（通常是一个函数）提交到任务队列中，任务会被发送到任务通道，由工作协程执行。

  4. 关闭工作池： 提供一个方法来关闭任务通道和工作池，确保所有任务都已完成，并且资源得到正确释放。

示例代码如下：

package main

import (
    "fmt"
    "sync"
)

func worker(id int, jobs <-chan func(), wg *sync.WaitGroup) {
    defer wg.Done()
    for job := range jobs {
        job()
        fmt.Printf("Worker %d done\n", id)
    }
}

func main() {
    // 省略具体实现细节...
}

在main函数中，你需要初始化工作池结构体，启动工作协程，提交任务，并在所有任务完成后关闭工作池。这个简单的示例展示了如何构建一个基本的协程工作池来处理并发任务。

回到顶部