不懂就问：跟据官网说明算的 StorageMemory 和 SparkUI 显示的对不上
heyyyy · 2022-03-25 17:21:20 +08:00 · 1379 次点击这是一个创建于 999 天前的主题，其中的信息可能已经有所发展或是发生改变。
按照官网的说明：
- spark.executor.memory 默认值：1g
- spark.memory.fraction 默认值：0.6
- spark.memory.storageFraction 默认值：0.5
storageMemory = 1g * 0.6 * 0.5 = 217m, 但是 sparkUI 上显示的是 2GiB.
网上有些文档记录了这个情况，理解可能原因有以下几个：
- jvm 可用的最大内存比 spark.executor.memory 小，这项排除，程序中 jvm 可用内存是 3g+。
- sparkUI 页面的单位换算有 bug,字节换算到 GB 的时候用的是 1000 而不是 1024 ，这项排除，我的 spark 版本是 3.0.0, 这个问题已经被修复： https://issues.apache.org/jira/browse/SPARK-25696 。
- 堆外内存被开启使用:spark.memory.offHeap.enabled=true,这项排除，因为默认情况下是关闭的，我没有在 sparkSession 中开启。
 |
1
heyyyy OP 更正一下：storageMemory = (1g-300m) * 0.6 * 0.5 = 217m
|
 |
2
disk 2022-03-25 19:12:26 +08:00
你这算的有问题，storageMemory < (1g-300m) * 0.6 ，和 spark.memory.storageFraction 没关系。我在 3.2 上是正常的，你看下 Memory per Executor 是不是正确。
|
|
3
heyyyy OP @disk (1g-300m) * 0.6 得到的是包括 ExecutionMemory 和 StorageMemory 的内存大小。
|
|
4
disk 2022-03-25 20:07:42 +08:00  1
@heyyyy 对的，ExecutionMemory 和 StorageMemory 是共享内存的，spark.memory.storageFraction 只决定其中最大不可驱逐缓存的比例，和实际的 StorageMemory 没有关系。
|
|
5
heyyyy OP @disk 谢谢大佬，client 模式下，sparkConf 中的 spark.executor.memory 不会生效，因为执行到那行的时候 jvm 已经启动过了。我的 jvm 参数是-Xmx4g ，spark 拿到的是 3.6g ，减去 ReservedMemory 的 300m 再乘以 0.6 跟 sparkUI 是一致的。
|
 |
6
tinkerer 2022-03-25 21:28:09 +08:00
跟踞 > 根据
|
Select Language