怎么理解 scrapy 的 xpath? xpath 字符串未像预期工作.

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

推荐学习书目

› Learn Python the Hard Way

Python Sites

› PyPI - Python Package Index

› http://diveintopython.org/toc/index.html

› Pocoo

值得关注的项目

› PyPy

› Celery

› Jinja2

› Read the Docs

› gevent

› pyenv

› virtualenv

› Stackless Python

› Beautiful Soup

› 结巴中文分词

› Green Unicorn

› Sentry

› Shovel

› Pyflakes

› pytest

Python 编程

› pep8 Checker

Styles

› PEP 8

› Google Python Style Guide

› Code Style from The Hitchhiker's Guide

这是一个创建于 427 天前的主题，其中的信息可能已经有所发展或是发生改变。

我将 response 写入本地 html 文件, 然后浏览器打开, 用 xpath helper 来验证自己的 xpath 字符串能否工作.

测试结果是正常工作(匹配)的.

但是将该字符串传递给 response.xpath 就无法正常匹配.

明明是同一个 response. 为什么会这样呢?

xpath

response

字符

helper

7 条回复 • 2023-10-05 22:18:49 +08:00

MarkToWin

2023-09-25 08:21:23 +08:00 via Android

使用 scrapy 获得得页面内容检查了吗？有可能被检测到了，页面内容就不一致了。或者有些内容是需要 js 加载的，没有加载。

2023-09-25 09:18:18 +08:00 via iPhone

将 response 写入本地 html 文件

打开这个文件的时候离线打开看看

pepesii

2023-09-25 09:37:36 +08:00

你可以用 scrapy shell 来调试
可以在里头 view response 来查看是否获取到了正确的界面

luzihang

2023-09-25 09:49:32 +08:00

查一下 scrapy 怎么 debug ，在 debug 的 console 尝试就行了

vituralfuture

2023-09-25 10:45:43 +08:00 via Android

因为 scrapy 下载的 HTML 和你手动下载并保存的 HTML 不一样

chackchackGO

2023-09-25 21:07:57 +08:00

@ik
@vituralfuture
op 就是用的`file.write(response.body)`, 而不是在 browser 里 ctrl+s.
以 file 协议打开这个 response 的文件, 问题依旧.

wapptm

2023-10-05 22:18:49 +08:00 via Android

这个很常见，有些内容是包裹在 js 里面的，这种肯定匹配不出来。可以将获取的源代码在 scrapy 里面打印出来看看，用正则一般可以匹配出来