推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
一个小白想法， Python 为什么不通过命令行开关切换两种 GIL 模式？
O5oz6z3 · 2021-10-23 22:04:15 +08:00 · 4122 次点击这是一个创建于 1130 天前的主题，其中的信息可能已经有所发展或是发生改变。
最近 python 出现一个惊艳的 no-gil 设计，想必大家已经知道了。
那么对于 python GIL 这个老问题，似乎常见的说法是：
粗粒度的 GIL 降低多线程的性能，细粒度的 GIL 降低单线程的性能。
那为什么不全都要，通过命令行开关切换两种 GIL 模式？
我本身并不太懂同步原语、线程安全、并行编程这些，所以想请教一下。欢迎指正！
那么对于 python GIL 这个老问题，似乎常见的说法是：
粗粒度的 GIL 降低多线程的性能，细粒度的 GIL 降低单线程的性能。
那为什么不全都要，通过命令行开关切换两种 GIL 模式？
我本身并不太懂同步原语、线程安全、并行编程这些，所以想请教一下。欢迎指正！
 |
1
sujin190 2021-10-23 23:24:50 +08:00  1
设计复杂度啊，大哥，两个都要那就两个都性能底，还开关，想太多了，而且 Python 强大的 C 扩展，谁给你兼容，多线程编程本来就复杂，重新设计解释器干掉 gil 不是啥难事，但是要在通用场景下取得更好性能以及对现有模块和 C 扩展有良好兼容可就难了，而且以 Python 的主要使用场景来看，干不干掉 GIL 其实意义不大，反正 Python 做出的牛逼的东西像 tensorflow 都是 C 或者 C++扩展的本来就不受 GIL 限制，否则有 ironpython 和 jython 你看如何
|
 |
2
msg7086 2021-10-24 05:48:21 +08:00 1
成本。
你来写吗？ 如果你不写，那可能别人也不想写，太多工程量了。 而且你都用命令行开关切换了，那不就成运行时判断了吗？ 运行时判断会影响性能的，真要做的话还不如分开两套 binary 。 当然上面说的 C 扩展本来就没有 GIL 也是因素之一。 真要做 CPU 密集型操作不如写 C 扩展。 |
 |
3
O5oz6z3 OP @sujin190 #1
@msg7086 #2 关于命令行开关，可能我说得不够清晰。我不了解 CPython ，以下举的例子可能不恰当：打个比方的话就是“单线程模式”用 `Py_Initialize()`，用普通的粗粒度 GIL 。“多线程模式”用 `Py_Initialize_threads_mode()`，采用细粒度的 GIL 优化多线程性能。 更具体的话就是指 docs.python.org/zh-cn/3/faq/library.html#can-t-we-get-rid-of-the-global-interpreter-lock 文档里提到的那个细粒度 GIL 。既然能够实现细粒度 GIL ，那么在命令行启动解释器的时候选择用哪一种 GIL ，看上去应该很容易实现？ 至于那些已经存在的 C 扩展，虽然我也不太懂 C 扩展，但我猜如果本来就隐式或显式依赖 GIL ，那么似乎本来就不适合多线程并行？ 而且“多线程细粒度 GIL”是可选的，如果不兼容那么回退到原来的粗粒度 GIL 就是了。 虽然我也不知道去掉 GIL 有什么意义，不过也许有利于并行计算？ 至于 python 其他没有 GIL 的实现，老实说我没用过，而且看上去版本更新缓慢…… |
 |
4
ysc3839 2021-10-24 06:11:10 +08:00
那为什么不做成编译时的开关呢？
|
|
5
O5oz6z3 OP @msg7086 #2
我的意思就是，如果暂时不考虑成本，这个方案理论上可行吗？ 况且细粒度 GIL 似乎（很久）以前有人实现过，参考上面 #3 的链接。 至于你所说的“运行时判断”，如果我没理解错的话，是指每次解释执行字节码指令的时候，判断使用哪种 GIL ？我不是这个意思，我是指上面提到的根据命令行开关（例如`python --threads ...`）调用对应的“入口函数”（`Py_Initialize`/`Py_Initialize_threads`）。 C 扩展这点也参考上面 #3 。虽然 CPU 密集确实应该用 C 扩展来解决，但 C 扩展的缺点是，需要编译（和需要写 C 语言……）。 @ysc3839 #4 python 的编译时开关？这个我不知道是什么…… |
|
7
O5oz6z3 OP @ysc3839 #6
也就是和#2 楼说的一样，不用“命令行开关”，干脆用“编译时开关”，将 python 编译成细粒度 GIL 的可执行文件？ 感觉也可行，也就是开关的位置其实不太重要。 那么问题就变成了：“Python 为什么不提供两种 GIL 对应的两套可执行文件？” |
|
8
msg7086 2021-10-24 06:36:23 +08:00
@O5oz6z3 不考虑成本，火星都能给你送人上去。
你真不考虑成本，那都不用管 GIL 了，直接堆机房堆起来……还纠结什么性能问题，对吧。 这个前提太没有意义了。 而且就算不考虑成本，那也应该先去写 C 扩展。你看那么多年过去了，C 扩展的高性能库一大把，GIL 问题还没彻底解决，这是为什么？当然是因为写 C 扩展比较便宜简单啦…… |
|
9
O5oz6z3 OP @msg7086 #8
理论可行性应该是成本的前提吧？理论不可行也就不需要考虑成本了…… 原来如此，看来多数情况下还是 c 扩展简单粗暴…… 看到一篇介绍 wiki.python.org/moin/GlobalInterpreterLock ，看来在目前的版本设计实现细粒度的 GIL 可能还是很有难度和很大工程量。（维护两套代码可能也很麻烦） |
 |
10
joApioVVx4M4X6Rf 2021-10-24 11:08:16 +08:00
最近 python 出现一个惊艳的 no-gil 设计，想必大家已经知道了。
村网通本村请问楼主是哪篇文章，想学习一下 |
 |
11
ErwinCheung 2021-10-24 11:11:09 +08:00
最近 python 出现一个惊艳的 no-gil 设计，想必大家已经知道了。
村网通本村请问楼主是哪篇文章，想学习一下 |
 |
12
zglzy 2021-10-24 11:31:10 +08:00 via Android 1
盲猜一下楼主指的是不是这个:
aHR0cHM6Ly9kb2NzLmdvb2dsZS5jb20vZG9jdW1lbnQvdS8wL2QvMThDWGhEYjF5Z3hnLVlYTkJKTnpmelpzREZvc0I1ZTZCZm5YTGxlamQ5bDA= |
 |
13
hsfzxjy 2021-10-24 12:14:46 +08:00 via Android 1
我说一个观点，就是在 CPython 漫长的发展过程中 Extension 的接口会发生抽象泄漏，从而制约其底层实现的改变。具体可以看 Hyrum's Law https://www.hyrumslaw.com/
展开来说，一个有很多用户使用的接口，无论其抽象做的多好，用户的使用最终多少会透过这层接口而去依赖背后的具体实现。CPython Extension API 虽然没有暴露太多和 GIL 相关的 API ，但你很难说不存在某些扩展，其正确性依赖于「解释器里有个全局锁」这一事实。就算细粒度锁或去除 GIL 的性能和安全问题解决了，CPython 作为正统及使用最广泛的版本也不会贸然采用。这其中会有很长的验证过程。 |
 |
14
kasheemlew 2021-10-24 14:19:17 +08:00
用 Cython 来操作也可，https://juejin.cn/post/7007043202251390984
|
 |
15
mattx 2021-10-24 15:07:11 +08:00 1
|
|
16
sujin190 2021-10-24 15:21:00 +08:00
@O5oz6z3 #3 大哥，这个又不是一个函数调完就完，各种数据结构，各种扩展都要加入支持，你用两个不同初始化方法有个啥用
|
|
17
sujin190 2021-10-24 15:23:38 +08:00
@hsfzxjy #13 不是可能存在，是必然是这样啊，除非你做个扩展完全不用 python 解释器的任何数据结构，否则就必须要用 GIL 保证安全，但是你不用任何 Python 解释器的数据结构，那 Python 也认不了你的扩展啊
|
 |
18
2i2Re2PLMaDnghL 2021-10-24 15:55:33 +08:00
@hsfzxjy 其实可以做到避免抽象泄漏的，就是让实现本身不稳定
比如 HTTP 接口，浏览器（几乎？）从未依赖于特定服务端实现 |
 |
19
wangyzj 2021-10-25 09:27:11 +08:00
肯定可以实现
就是没有那个必要了 |
|
20
O5oz6z3 OP @v2exblog @ErwinCheung #10 #11
罚你们重看 /t/808955 @kasheemlew #14 我才发现我把 cython 和 c 扩展搞混了。 @wangyzj #19 我也不知道有没有必要，不过 GIL 好像有 CPU 颠簸之类的其他副作用…… |
|
21
O5oz6z3 OP |
|
22
sujin190 2021-10-25 11:06:36 +08:00 1
@O5oz6z3 #21 问题就在于解析器你能复制数据结构再搞一遍，但是那么多模块和扩展怎么办，你说的这种不仅有人想过还有人搞过，但是有个啥用，各种模块扩展都不兼容，那这样的 python 还有个啥用，现在 python 重要使用的场景中数学计算、web 、人工智能、爬虫，几乎都不受 GIL 影响，语言自身性能不高主要也不是 GIL 导致的，从这些来说搞掉 GIL 并不是一个十分重要的事情，从 Python 编译成执行的字节码来看，对比 GO 、Rust 这种的编译器优化水平，似乎 python 的编译器还是有改进的空间的，以及 jit 支持之类的显然收益更高吧
|
 |
24
qdcanyun 2021-10-26 18:56:51 +08:00 1
其实是有可能有的，Python Core Developer Łukasz Langa 最近写的 [Blog]( https://lukasz.langa.pl/5d044f91-49c1-4170-aed1-62b6763e6ad0/) 中记录了 Python 核心开发团队和 nogil 的作者 Sam Gross 沟通的一些内容，其中就有提到
> **Q: Is runtime enabling of nogil a long-term viable option or a transitional feature?** > Ideally the end game is CPython without the GIL, period. However, there will be an expected long period of community adaptation. We want to avoid a rift similar to the Python 2 to Python 3 transition. Rather, we want the transition to be easier, even if that means stretching it over a longer period of time. 如果未来 nogil 能够 merge 进主干代码里，那么一开始势必会有一个 option 来让用户选择开关 GIL 至于为什么现在没有，其实可以看 Sam Gross 的那个文档，以及上面提到的 Blog ，去掉 GIL 不是简单的直接删掉 GIL 对象，涉及到 GC ，内存分配，以及不少基础库的改造 |
 |
25
lolizeppelin 2021-10-31 20:15:16 +08:00 via iPhone
async 这么多年了都没把全部库搞定
gil 起码搞 10 年 |
 |
26
chinesehuazhou 2021-11-21 09:22:35 +08:00 via Android 1
楼上 @qdcanyun 提到了核心开发跟 nogil 作者的对话。未来估计会出现这么个开关。对话全文我翻译出来了，贴个链接： https://mp.weixin.qq.com/s/SvUyyUGLZFbqEyERWWJIYQ
|
|
27
O5oz6z3 OP 才发现好像在以前，GIL 默认就是多线程时才会主动开启？ docs.python.org/zh-cn/3/c-api/init.html#c.PyEval_InitThreads
|
Select Language