V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
galileo1214
V2EX  ›  程序员

想问个问题,怎么爬张大妈

  •  
  •   galileo1214 · 2020-12-22 13:14:57 +08:00 · 2765 次点击
    这是一个创建于 1213 天前的主题,其中的信息可能已经有所发展或是发生改变。

    直接从网上爬的话,容易 404 。 然后从 rss 爬好像不是最近的,有什么办法爬最新的东西呢?

    第 1 条附言  ·  2020-12-22 16:27:30 +08:00
    ConnectionError: ('Connection aborted.', TimeoutError(10060, '由于连接方在一段时间后没有正确答复或连接的主机没有反应,连接尝试失败。', None, 10060, None))
    8 条回复    2020-12-23 16:37:42 +08:00
    andyskaura
        1
    andyskaura  
       2020-12-22 13:41:05 +08:00
    无头浏览器 效率虽然低 但是自己用省事还稳定
    knightdf
        2
    knightdf  
       2020-12-22 14:30:39 +08:00
    张大妈好爬吧,直接撸接口就行了
    LikeMurphy
        3
    LikeMurphy  
       2020-12-22 15:01:05 +08:00   ❤️ 1
    不会啊,我爬了一年多,爬取频率是隔三分钟爬三百条,贼稳定,没出现过 404
    Sapp
        4
    Sapp  
       2020-12-22 18:43:54 +08:00
    我之前用 electron 直接解析网页读取 dom 收集小说,和直接访问没啥区别,张大妈应该也可以
    hubahuba
        5
    hubahuba  
       2020-12-22 19:17:40 +08:00
    @LikeMurphy 张大妈警告
    nihaorz
        6
    nihaorz  
       2020-12-23 10:55:55 +08:00
    @Sapp 去广告终极大法🤝
    LikeMurphy
        7
    LikeMurphy  
       2020-12-23 16:32:48 +08:00
    @hubahuba 没事,我只是爬信息回来,买东西还是走他的链接,对它没损害,甚至我还发展了几个下线
    LikeMurphy
        8
    LikeMurphy  
       2020-12-23 16:37:42 +08:00
    @galileo1214 没反应大概率是你的接口调用有问题,去 gayhub 上搜一下吧,很多人写这方面的
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3514 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 10:55 · PVG 18:55 · LAX 03:55 · JFK 06:55
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.