我使用Python绑定来运行Selenium WebDriver:
from selenium import webdriver
wd = webdriver.Firefox()
我知道我可以像这样抓取一个webelement:
elem = wd.find_element_by_css_selector('#my-id')
我知道我可以得到整页的源代码…
wd.page_source
但是是否有一种获取“元素源”的方法?
elem.source # <-- returns the HTML as a string
Python的Selenium WebDriver文档基本上不存在，我在代码中没有看到任何支持该功能的东西。
访问一个元素(及其子元素)的HTML的最佳方法是什么?
当前回答
当然，我们可以用下面的脚本在Selenium Python中获得所有的HTML源代码:
elem = driver.find_element_by_xpath("//*")
source_code = elem.get_attribute("outerHTML")
如果你想保存到文件:
with open('c:/html_source_code.html', 'w') as f:
f.write(source_code.encode('utf-8'))
我建议保存到一个文件，因为源代码非常非常长。
其他回答
其他答案提供了大量关于检索WebElement标记的细节。然而，一个重要的方面是，现代网站越来越多地实现JavaScript, ReactJS, jQuery, Ajax, Vue.js, Ember.js, GWT等来呈现DOM树中的动态元素。因此，在检索标记之前，有必要等待元素及其子元素完全呈现。
Python
因此，理想情况下，你需要为visibility_of_element_locate()诱导WebDriverWait，你可以使用以下定位器策略之一:
Using get_attribute("outerHTML"): element = WebDriverWait(driver, 20).until(EC.visibility_of_element_located((By.CSS_SELECTOR, "#my-id"))) print(element.get_attribute("outerHTML")) Using execute_script(): element = WebDriverWait(driver, 20).until(EC.visibility_of_element_located((By.CSS_SELECTOR, "#my-id"))) print(driver.execute_script("return arguments[0].outerHTML;", element)) Note: You have to add the following imports: from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.common.by import By from selenium.webdriver.support import expected_conditions as EC
您可以读取innerHTML属性以获取元素内容的源，也可以读取outerHTML以获取带有当前元素的源。
Python:
element.get_attribute('innerHTML')
Java:
elem.getAttribute("innerHTML");
C#:
element.GetAttribute("innerHTML");
Ruby:
element.attribute("innerHTML")
JavaScript:
element.getAttribute('innerHTML');
PHP:
$element->getAttribute('innerHTML');
它在ChromeDriver上进行了测试和使用。
使用execute_script get html
bs4(BeautifulSoup)也可以快速访问html标签。
from bs4 import BeautifulSoup
html = adriver.execute_script("return document.documentElement.outerHTML")
bs4_onepage_object=BeautifulSoup(html,"html.parser")
bs4_div_object=bs4_onepage_object.find_all("atag",class_="attribute")
在PHPUnit Selenium测试中，它是这样的:
$text = $this->byCssSelector('.some-class-nmae')->attribute('innerHTML');
WebElement element = driver.findElement(By.id("foo"));
String contents = (String)((JavascriptExecutor)driver).executeScript("return arguments[0].innerHTML;", element);
这段代码真的可以从源代码获得JavaScript !
