Linux-C编程 / 多线程 / 一个简洁可靠的线程池实现
ahcoder 2025-01-23 14:57 20 浏览
哈喽,我又来分享学习心得了。
一、简介
https://github.com/Pithikos/C-Thread-Pool
这是一个简单小巧的C语言线程池实现,在 Github 上有 1.1K 的 star,很适合用来学习 Linux 的多线程编程。
另外,里面还涉及到了信号、队列、同步等知识点,代码读起来还是挺过瘾的。
特点:
- 符合 ANCI C and POSIX;
- 支持暂停/恢复/等待功能;
- 简洁的 API;
- 经过严格的测试,附带了丰富的测试用例;
二、使用
快速上手
example.c:
#include "thpool.h"
void task(void *arg){
printf("Thread #%u working on %d\n", (int)pthread_self(), (int) arg);
}
int main(){
puts("Making threadpool with 4 threads");
threadpool thpool = thpool_init(4);
puts("Adding 10 tasks to threadpool");
int i;
for (i=0; i<8; i++){
thpool_add_work(thpool, task, (void*)(uintptr_t)i);
};
thpool_wait(thpool);
puts("Killing threadpool");
thpool_destroy(thpool);
return 0;
}
运行效果:
$ gcc example.c thpool.c -D THPOOL_DEBUG -pthread -o example
$ ./example
Making threadpool with 4 threads
THPOOL_DEBUG: Created thread 0 in pool
THPOOL_DEBUG: Created thread 1 in pool
THPOOL_DEBUG: Created thread 2 in pool
THPOOL_DEBUG: Created thread 3 in pool
Adding 10 tasks to threadpool
Thread #1509455616 working on 0
Thread #1509455616 working on 4
Thread #1509455616 working on 5
Thread #1492670208 working on 2
Thread #1492670208 working on 7
Thread #1509455616 working on 6
Thread #1501062912 working on 1
Thread #1517848320 working on 3
Killing threadpool
代码分析:
- threadpool thpool = thpool_init(4) 创建了一个含有 4 个线程的线程池;
- 然后调用 thpool_add_work(thpool, ...) 往线程池里放入了 8 个任务;
- 从结果来看:
- 线程5616 抢到了任务 0 / 4 / 5 / 6;
- 线程0208 抢到了任务 2 / 7;
- 线程2919 抢到了任务 1;
- 线程8320 抢到了任务 3;
API 简介
示例作用thpool_init(4)创建一个含有 4 个线程的线程池。thpool_add_work(thpool, (void*)function_p, (void*)arg_p)添加任务, function_p 是任务要执行的函数,arg_p 是 function_p 的参数。thpool_wait(thpool)等待所有任务完成。thpool_destroy(thpool)销毁线程池,如果还有任务在执行,则会先等待其完成。thpool_pause(thpool)让所有的线程都停止工作,进入睡眠状态。thpool_resume(thpool)让所有的线程都恢复工作。thpool_num_threads_working(thpool)返回当前正在工作的线程数。
三、内部实现
整体把握
核心代码就是 2 个文件:thpool.c 和 thpool.h。
嵌入式物联网需要学的东西真的非常多,千万不要学错了路线和内容,导致工资要不上去!
无偿分享大家一个资料包,差不多150多G。里面学习内容、面经、项目都比较新也比较全!某鱼上买估计至少要好几十。
点击这里找小助理0元领取:嵌入式物联网学习资料(头条)
分解 thpool.c
7 个公共函数:
struct thpool_* thpool_init(int num_threads)
int thpool_add_work(thpool_* thpool_p, void (*function_p)(void*), void* arg_p)
void thpool_wait(thpool_* thpool_p)
void thpool_destroy(thpool_* thpool_p)
void thpool_pause(thpool_* thpool_p)
void thpool_resume(thpool_* thpool_p)
int thpool_num_threads_working(thpool_* thpool_p)
正好就是前面说过的 7 个 API,稍后重点分析。
5 个自定义的数据结构:
// 描述一个信号量
typedef struct bsem {...} bsem;
// 描述一个任务
typedef struct job {...} job;
// 描述一个任务队列
typedef struct jobqueue {...} jobqueue;
// 描述一个线程
typedef struct thread {...} thread;
// 描述一个线程池
typedef struct thpool_ {...} thpool_;
14 个私有函数:
// 构造 struct thread,并调用 pthread_create() 创建线程
static int thread_init (thpool_* thpool_p, struct thread** thread_p, int id)
// 当线程被暂停时会在这里休眠
static void thread_hold(int sig_id)
// 线程在此函数中执行任务
static void* thread_do(struct thread* thread_p)
// 销毁 struct thread
static void thread_destroy (thread* thread_p)
// 任务队列相关的操作集合
static int jobqueue_init(jobqueue* jobqueue_p)
static void jobqueue_clear(jobqueue* jobqueue_p)
static void jobqueue_push(jobqueue* jobqueue_p, struct job* newjob)
static struct job* jobqueue_pull(jobqueue* jobqueue_p)
static void jobqueue_destroy(jobqueue* jobqueue_p)
// 信号量相关的操作集合
static void bsem_init(bsem *bsem_p, int value)
static void bsem_reset(bsem *bsem_p)
static void bsem_post(bsem *bsem_p)
static void bsem_post_all(bsem *bsem_p)
static void bsem_wait(bsem* bsem_p)
核心 API 的实现
1. thpool_init()
该函数用于创建一个线程池,先明确线程池的定义:
typedef struct thpool_{
thread** threads; /* pointer to threads */
volatile int num_threads_alive; /* threads currently alive */
volatile int num_threads_working; /* threads currently working */
pthread_mutex_t thcount_lock; /* used for thread count etc */
pthread_cond_t threads_all_idle; /* signal to thpool_wait */
jobqueue jobqueue; /* job queue */
} thpool_;
thpool_init() 的实现思路:
- 分配 struct thpool_:
- malloc(sizeof(struct thpool_))
- 初始化 struct thpool_;
- malloc(num_threads * sizeof(struct thread *))
- thread_init(thpool_p, &thpool_p->threads[n], n);
- jobqueue_init(&thpool_p->jobqueue)
- 初始化 jobqueue:
- 创建用户指定数目的线程,用一个二级指针来指向这一组线程;
- 返回 struct thpool_ *;
2. thpool_add_work()
该函数用于往线程池里添加一个任务,先明确任务的定义:
typedef struct job{
struct job* prev; /* pointer to previous job */
void (*function)(void* arg); /* function pointer */
void* arg; /* function's argument */
} job;
程序里是用队列来管理任务的,这里的 job 首先是一个队列节点,携带的数据是 function + arg。
thpool_add_work 的实现思路:
- 分配 struct job:
- malloc(sizeof(struct job))
- 初始化 struct job;
- newjob->function=function_p;
- newjob->arg=arg_p;
- 添加到队列中:
- jobqueue_push(&thpool_p->jobqueue, newjob);
3. thpool_pause() 和 thpool_resume()
thpool_pause() 用于暂停所有的线程,通过信号机制来实现:
void thpool_pause(thpool_* thpool_p) {
int n;
for (n=0; n < thpool_p->num_threads_alive; n++){
pthread_kill(thpool_p->threads[n]->pthread, SIGUSR1);
}
}
给所有工作线程发送 SIGUSR1,该信号的处理行为就是让线程休眠:
static void thread_hold(int sig_id) {
(void)sig_id;
threads_on_hold = 1;
while (threads_on_hold){
sleep(1);
}
}
只需要 thpool_resume() 中,将 threads_on_hold = 0,就可以让线程返回到原来被中止时的工作状态。
4. thpool_wait()
wait 的实现比较简单,只要还有任务或者还有线程处于工作状态,就执行 pthread 的 wait 操作:
while (thpool_p->jobqueue.len || thpool_p->num_threads_working) {
pthread_cond_wait(&thpool_p->threads_all_idle, &thpool_p->thcount_lock);
}
到此,我感觉已经没有太多难点了,感兴趣的小伙伴们可以自行查阅源码。
四、测试用例
优秀的开源项目通常会附带丰富的测试用例,此项目也不例外:
- memleaks.sh:测试是否发生内存泄露;
- threadpool.sh: 测试线程池是否能正确地执行任务;
- pause_resume.sh:测试 pause 和 resume 是否正常;
- wait.sh:测试 wait 功能是否正常;
- heap_stack_garbage:测试堆栈内有垃圾数据时的情况;
思考技术,也思考人生
要学习技术,更要学习如何生活。
最近在看的书:
《精要主义》
点击查看大图
收获了什么?
身体是一种资产:
- 身体是用来达到个人贡献峰值的珍贵资产,而最常见用来破坏这种资产的方式是:缺乏睡眠。
- 有的人可以很轻易地让自己拼命工作,并且认为自己强大到可以通过减少睡眠来尽快实现自己的目标。而事实是,他们绝大多数人只是习惯了疲惫状态,以至于已经忘记充分休息后的高效学习、工作是什么感觉。
- 正确的做法是:系统地、有意识地为睡眠留下一席之地,为每天的生活保留一部分精力和创造力、解决问题的能力,以应对一些意外情况。
你和我各有一个苹果,如果我们交换苹果的话,我们还是只有一个苹果。但当你和我各有一个想法,我们交换想法的话,我们就都有两个想法了。
觉得文章对你有价值,不妨点个 在看和赞。
原文链接:https://mp.weixin.qq.com/s/hNreJxcKd5P0hwctucLBYw
文章转载自:老吴嵌入式
文章来源于:Linux-C编程 / 多线程 / 一个简洁可靠的线程池实现
版权声明:本文来源于网络,免费传达知识,版权归原作者所有,如涉及作品版权问题,请联系我进行删除
相关推荐
- 如何在 Linux 中使用 which 命令?
-
在Linux的江湖中,每天都有成千上万的命令被执行。当你在终端输入python时,系统可能同时存在Python2.7和Python3.10;当你运行java命令时,可能意外调用了非预期的版本。这时...
- linux CentOS检查见后门程序的shell
-
#CentOS检查后门程序的Shell脚本以下是一个用于检查CentOS系统中潜在后门程序的BashShell脚本,包含多项安全检查:```bash#!/bin/bash#检查后门...
- Linux磁盘满了-服务器不打日志df&rm
-
大家好,我是「Bigder」、今天再说一个有意思的命令「df」,也是踩过坑的、怎么看磁盘占用情况?「df-h」命令用来显示磁盘占用率,截图里面可用是:17G、被使用11%,Use%达到100应用系统...
- Linux写脚本经常用到的测试命令(linux硬件测试脚本)
-
介绍一个Linux写脚本经常用到的测试命令testtest命令用于检查文件类型和比较值。Test用于条件执行。一、test常用于1.文件属性比较2.执行字符串比较3.基本的算术比较二、关系运算符...
- Linux History命令:如何显示命令执行的日期和时间
-
在Linux系统中,history命令是一个简单却强大的工具,它允许用户查看和重用之前执行过的命令。然而,默认情况下,history命令的输出仅显示命令的序号和内容,并不包含命令执行的日期和时间。这对...
- 判断Linux服务器架构是32位/64位
-
作为一个Unix系统的新手用户,我可以怎么判断我的Unix服务器安装的是32位或者64位的操作系统呢?你可以使用如下的命令来获取关于Unix内核和CPU架构的信息。getconf命令:显示机器硬件...
- linux服务器被黑快速排查(linux服务器被ddos攻击记录日志)
-
已更新:windows服务器被黑快速排查一般来说linux系统服务器被黑比较少,若怀疑服务器被黑了,可通过下述方法快速排查。下面是小梁的一些总结,可供大家参考。如有问题,欢迎大家在评论区留言交流。感谢...
- linux系统磁盘IO性能检测教程(linux磁盘io性能指标)
-
Linux系统中检测磁盘IO性能的教程在Linux系统中,监控和优化磁盘IO性能对系统的稳定性和效率至关重要,尤其是在高负载环境中。通过使用合适的工具,您可以检测系统的读写速度、IO等待时间以及每个进...
- Linux系统Shell脚本语言之循环及判断语句
-
摘要:在日常工作中或多或少都会接触到shell脚本,可以说会shell脚本是一位后端维护及开发的基本功。shell是一种编程语言,而学习一门编程语言语法,最基本的无外乎就是语言中的数据类型定义,for...
- 如何快速摸清LINUX系统的应用部署情况和正在运行的服务
-
作为运维人员或开发者,当接手一台新的Linux服务器时,第一要务就是摸清系统上已经安装部署了哪些应用和服务。本文将以CentOS7为例,详细介绍如何系统地排查已安装的应用和服务,包括它们的安装方...
- Linux服务器中毒?教你一步步精准判断和快速处置!
-
在当今网络安全威胁日益严峻的环境下,Linux虽然以其安全性著称,但也并非“刀枪不入”。许多黑客利用服务器漏洞、弱口令、过期软件等方式,渗透并植入恶意代码。一旦服务器被攻陷,可能导致数据泄露、资源...
- Linux-如何区分不同文件类型(linux怎么区分文件类型)
-
理解Linux一切皆文件的理念,掌握Linux下区分不同文件类型的多种方法(包括:通过颜色、用过文件类型字符、通过file命令及通过stat命令等方法)1.通过观察颜色可以最直观在命令行模式下区分不...
- 在Linux中输入一行命令后究竟发生了什么?
-
Linux,这个开源的操作系统巨人,以其强大的命令行界面而闻名。无论你是初学者还是经验丰富的系统管理员,理解在Linux终端输入一条命令并按下回车后发生的事情,都是掌握Linux核心的关键。从表面上看...
- 如何在 Linux 上设置和管理 VPN?
-
在Linux上设置和管理VPN是一个相对直接的过程,但需要一些基本的系统管理知识。这里,我们将探讨如何使用OpenVPN这个流行的VPN软件来实现这一目标。1.了解VPN的基本概念VPN,即虚拟私人...
- 从按下电源到登录界面!Linux启动全流程深度拆解,运维人必看
-
你要是用过Linux系统,肯定知道开机的时候,不是按个电源键,等着屏幕亮起来那么简单。背后的操作可复杂了,就像一场精心安排的大合唱,每个部分都在该出声的时候出声。今天,咱就来好好讲讲Linux...
- 一周热门
- 最近发表
- 标签列表
-
- linux 远程 (37)
- u盘 linux (32)
- linux 登录 (34)
- linux 路径 (33)
- linux 文件命令 (35)
- linux 是什么 (35)
- linux 界面 (34)
- 查看文件 linux (35)
- linux 语言 (33)
- linux代码 (32)
- linux 查看命令 (33)
- 关闭linux (34)
- root linux (33)
- 删除文件 linux (35)
- linux 主机 (34)
- linux与 (33)
- linux 函数 (35)
- linux .ssh (35)
- cpu linux (35)
- 查看linux 系统 (32)
- linux 防火墙 (33)
- linux 手机 (32)
- linux 镜像 (34)
- linux mac (32)
- linux ip地址 (34)