V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
nicktogo
V2EX  ›  Amazon Web Services

EC2 网络输出速度逐渐变慢?

  •  
  •   nicktogo · 2015-12-13 09:03:01 +08:00 · 4699 次点击
    这是一个创建于 3247 天前的主题,其中的信息可能已经有所发展或是发生改变。
    写了个 python 程序通过请求 api 批量获取数据,放到 EC2 上跑了,刚开始半小时能处理上万条数据, EC2 里监控看到网络输出 5 分钟内平均也有 1.3M ,但是后来就变慢了, 12 个小时才处理不到 5 万多条,网络输出也降到了 0.3M ,之前以为是程序问题,但是后来在本地电脑上跑, 12 个小时都处理 15 万条了。是不是 aws 限制了我的带宽?可有办法破?一年免费计划的
    9 条回复    2016-01-06 10:21:42 +08:00
    gamexg
        1
    gamexg  
       2015-12-13 09:30:58 +08:00
    api 是哪国的?
    考虑过网络问题吗?
    nicktogo
        2
    nicktogo  
    OP
       2015-12-13 10:19:54 +08:00
    @gamexg 这个真没想到, EC2 是日本区, api 是美国的,组合有点奇怪。。可能还真是这个问题,不过我本机没翻墙
    oott123
        3
    oott123  
       2015-12-13 10:21:30 +08:00
    感觉楼主的信用卡要爆
    nicktogo
        4
    nicktogo  
    OP
       2015-12-13 10:55:47 +08:00
    @oott123 担心过,所以一直看着账单呢,本月至今 0.1 刀,还好
    aabbccli
        5
    aabbccli  
       2015-12-13 11:04:05 +08:00
    你不会是在 EC2 上爬 AMAZON 产品吧
    nicktogo
        6
    nicktogo  
    OP
       2015-12-13 11:07:07 +08:00
    @aabbccli 本来是这样打算的-。-
    initialdp
        7
    initialdp  
       2015-12-13 11:25:00 +08:00 via Android
    不一定是 ec2 的问题,也可能是对端限制了抓取。
    semicircle21
        8
    semicircle21  
       2015-12-13 18:14:22 +08:00
    关注一下磁盘 IO, IO 也有漏斗算法, 不在乎预算可以试一下 Provision 的 IOPS 看看有没有改善.
    itopidea
        9
    itopidea  
       2016-01-06 10:21:42 +08:00
    我也发现了,现在打开越来越慢啊 http://freebt.org/
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2495 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 10:35 · PVG 18:35 · LAX 03:35 · JFK 06:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.