Selenium抓不到内容的示例分析

Selenium抓不到内容的示例分析

这篇文章主要为大家展示了“Selenium抓不到内容的示例分析”，内容简而易懂，条理清晰，希望能够帮助大家解决疑惑，下面让小编带领大家一起研究并学习一下“Selenium抓不到内容的示例分析”这篇文章吧。

有一些同学在写爬虫的时候，过于依赖 Selenium，觉得只要使用模拟浏览器，在不被网站屏蔽的情况下，就可以爬到任何内容。

我们不讨论字体反爬虫和 CSS 反爬虫这两种情况。我们来看一段非常简单的网页。这个网页只有一个HTML 文件，不加载特殊字体，不加载 CSS  文件。

这个网页的奇怪之处在哪里呢?我们试一试使用 XPath Helper 来提取网页上面的红色文字，发现XPath 竟然无法找到这段文字，如下图所示：

然后我们使用 Selenium 来试一试：

Selenium果然无法获取 红字到内容。我们再打印一下网页的源代码：

这一次，Selenium 获取到的源代码，竟然跟 Chrome 开发者工具里面显示的源代码不一样?

这个问题的关键，就在开发者工具里面的这样一段文字：

因为这个节点是一个shadow DOM[1]。shadow DOM 的行为跟 iframe很像，都是把一段HTML 信息嵌入到另一个 HTML  中。但不同的是，iframe被嵌入的地址需要额外再搭建一个 HTTP服务，而 shadow DOM 可以只嵌入一段 HTML 代码，所以它比 iframe  更节省资源。

在上面的截图中，通过下面这三行代码，我们把一个新的

标签嵌入到了原来的 HTML 中：

var content = document.querySelector('.content');     var root = content.attachShadow({mode: 'open'});     root.innerHTML = '<p class="real_content" style="color: red">你抓不到这段文字的！</p>'

而这个被嵌入的影子标签，就像 iframe 一样，是无法直接使用 Selenium 提取的。如果强行提取，那么，我们需要使用 JavaScript 获取  shadow DOM，然后再进行提取。我们来看一段可以正常工作的代码：

shadow = driver.execute_script('return document.querySelector(".content").shadowRoot') content = shadow.find_element_by_class_name('real_content') print(content.text)

运行效果如下图所示：

这段代码，首先通过 JavaScript 找到shadow-root的父节点元素，然后返回这个元素的.shadowRoot属性。在 Python  里面拿到这个属性以后，使用.find_element_by_class_name()方法获取里面的内容。

要特别注意的是，拿到shadow-root节点以后，只能通过 CSS 选择器进一步筛选里面的内容，不能用 XPath，否则会导致报错。

以上是“Selenium抓不到内容的示例分析”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注高防服务器网行业资讯频道！

[微信提示：高防服务器能助您降低 IT 成本，提升运维效率，使您更专注于核心业务创新。

[图文来源于网络，不代表本站立场，如有侵权，请联系高防服务器网删除]
[