V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
dtgxx
V2EX  ›  问与答

大佬们,进来帮帮忙~~HiveOnTez 执行一条语句报错貌似是内存不足?有啥办法吗大佬们

  •  
  •   dtgxx · Oct 31, 2020 · 551 views
    This topic created in 2003 days ago, the information mentioned may be changed or developed.

    六台机器,每台 64G,在 Hive 执行一条语句 select count(1) from table; 表数据大约 20 亿条。。存储大约 2T,三副本是 6T 。


    这一条语句 Hive 直接报错了,看起来是资源不足报的,想问下大佬们有没有解决办法,hive 执行 sql,把数据都放内存吗?我得配 2T 的内存?能不能一批批处理,这也太消耗资源了。。而且只是一个简单的 count(1)。。


    报错截图如下
    https://i.imgur.com/IytKHjm.png
    https://i.imgur.com/vCrafEn.png

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5933 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 06:38 · PVG 14:38 · LAX 23:38 · JFK 02:38
    ♥ Do have faith in what you're doing.