请教 asyncio 生产-消费函数使用互斥锁保护 queue 共享资源

2023-03-10 07:11:29 +08:00
 ALLROBOT

如题,库函数看的累人,希望有人口语化解释一下

python 3.8.0

  1. 使用 semaphore 控制并发访问资源,并发访问网络资源并保存到本地,问了 chatgpt ,它说如果获取网页资源后,在 queue.put(xx)或 queue.get()之前不加 asyn with lock ,生产函数可能会覆盖队列中的数据、或者几个消费函数争抢同一个数据?

实际测试,不管加不加锁,生产函数没有覆盖数据的情况,消费函数们各拿各自的,没有多个消费函数拿同一个队列同一个数据的情况,实际情况怎么样就不清楚了

那么,有必要加锁给消费函数获得独占 queue 的访问权限,确保仅有一个消费函数只拿一个数据,这样会防止数据竞争的问题?

  1. 使用 semaphore>=2 的情况下,算是多个生产函数往 queue 添加数据吗?

chatgpt 回答自相矛盾,说用semaphore的情景下,能保护共享资源不会发生数据争抢。。。我问既然用semaphore那有必要用asyn with lock么,它答如果不加锁会导致访问共享资源产生的一些问题。。。

1443 次点击
所在节点    Python
6 条回复
ruanimal
2023-03-10 09:55:34 +08:00
queue 是线程安全的
raymanr
2023-03-10 10:18:45 +08:00
没用过 semaphore, 不过感觉没必要给 queue 加锁吧
copper20
2023-03-10 10:35:14 +08:00
1. chatgpt 说话信一半就行了
2. py 的 queue 本身都是多线程安全的,queue.Queue 用 mutex 实现,queue.SimpleQueue 用 semaphore 实现
3. 使用 semaphore>=2 的情况下,算是多个生产函数往 queue 添加数据,但是因为 queue 本身多线程安全,所以问题不大
4. semaphore 和 mutex 可以认为是对于一组资源的不同保护策略,针对一组资源一般只用一种策略
zzl22100048
2023-03-10 17:41:51 +08:00
asyncio 的 queue 不需要锁,本身就是协程安全的
ALLROBOT
2023-03-10 20:00:48 +08:00
@zzl22100048 @ruanimal @copper20 明白了,感谢解惑
ruanimal
2023-03-13 10:03:47 +08:00
别把 chatgpt 的话当真,v2ex 现在这种情况很多。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/922752

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX