Spark SQL 跑批性能调优
参数配置不能设置过大,需要根据集群资源来做总体分配,如spark 总资源 200G,开 8个并发,则每个任务为 20G左右,不能设置 64G,这样就超过了总大小,只有3个能分配,剩余5个任务资源不够,跑不起来,则并发不能利用起来;
相关文章:
Spark编程指南-性能调优
性能提升60%↑ 成本降低50%↓ Spark性能调优看这篇就够了!
为者常成,行者常至
自由转载-非商用-非衍生-保持署名(创意共享3.0许可证)
参数配置不能设置过大,需要根据集群资源来做总体分配,如spark 总资源 200G,开 8个并发,则每个任务为 20G左右,不能设置 64G,这样就超过了总大小,只有3个能分配,剩余5个任务资源不够,跑不起来,则并发不能利用起来;
相关文章:
Spark编程指南-性能调优
性能提升60%↑ 成本降低50%↓ Spark性能调优看这篇就够了!
为者常成,行者常至
自由转载-非商用-非衍生-保持署名(创意共享3.0许可证)