如何使用selenium在网页上执行所有javascript内容，以便在满载的网页上查找和发送登录表单信息

Question

我一直在尝试制作一个Python脚本登录某个网站，浏览菜单，填写表格并将生成的文件保存到文件夹中。

我一直在使用Selenium试图让网站完全加载所以我可以找到登录的元素，但我不成功，可能是因为网站在完全加载之前做了很多JavaScript内容，但我不能使它完全加载并显示我想要的数据。

我尝试使用Robobrowser，Selenium，Requests和BeautifulSoup来完成它。

import requests
from bs4 import BeautifulSoup
from selenium import webdriver

url = "https://directa.natal.rn.gov.br/"

driver = webdriver.Chrome(executable_path="C:\\webdrivers\\chromedriver.exe")
driver.get(url)

html = driver.execute_script("return document.documentElement.outerHTML")
sel_soup = BeautifulSoup(html, 'html.parser')

senha = driver.find_element_by_xpath('//*[@id="senha"]')
senha.send_keys("123")

我希望用“123”填充密码（senha）字段，但我甚至找不到元素。

Answer 1

要将字符序列123发送到密码（senha）字段，因为所需元素在<frame>中，因此您必须：

• 引导WebDriverWait以获得所需的帧并切换到它。
• 诱导WebDriverWait以获得可点击的所需元素。
• 您可以使用以下解决方案： 代码块：

  from selenium import webdriver
  from selenium.webdriver.common.by import By
  from selenium.webdriver.support.ui import WebDriverWait
  from selenium.webdriver.support import expected_conditions as EC
  
  options = webdriver.ChromeOptions()
  options.add_argument("start-maximized")
  options.add_argument('disable-infobars')
  options.add_argument("--disable-extensions")
  driver = webdriver.Chrome(chrome_options=options, executable_path=r'C:\WebDrivers\chromedriver.exe')
  driver.get("https://directa.natal.rn.gov.br/")
  WebDriverWait(driver, 10).until(EC.frame_to_be_available_and_switch_to_it((By.CSS_SELECTOR,"frame[name='mainsystem'][src^='main']")))
  WebDriverWait(driver, 20).until(EC.element_to_be_clickable((By.CSS_SELECTOR, "input.input[name='usuario']"))).send_keys("Tads")
  driver.find_element_by_css_selector("input.input[name='senha']").send_keys("123")

• 浏览器快照：

在这里你可以找到关于Ways to deal with #document under iframe的相关讨论

Answer 2

看起来这里需要的是一点点滚动，等待和切换，注意登录字段只是没有准备输入:)下面应该工作，我们实际上滚动到元素，切换到iframe，在我们与登录表单的其余部分进行交互之前。您可以将延迟从5秒调整为您喜欢的任何内容。

from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium.common.exceptions import TimeoutException

""" Variables """
url = "https://directa.natal.rn.gov.br/"
delay = 5 # seconds

""" Initiate driver """
driver = webdriver.Chrome(executable_path="C:\\webdrivers\\chromedriver.exe")

""" Go to url """
driver.get(url)

""" Iframe switch """
WebDriverWait(driver, 10).until(EC.frame_to_be_available_and_switch_to_it((By.CSS_SELECTOR,"frame[name='mainsystem'][src^='main']")))


""" Attempt to get all our elements """
try:
    """ Username """
    usuario = WebDriverWait(driver, delay).until(EC.presence_of_element_located((By.ID, 'usuario')))
    """ Password """
    senha = WebDriverWait(driver, delay).until(EC.presence_of_element_located((By.ID, 'senha')))

    print("All elements located!")

except TimeoutException:
    print("Loading took too much time!")
    exit(0)

"""Scroll to our element """
driver.execute_script("arguments[0].scrollIntoView();", usuario)

""" Input data into our fields """
usuario.send_keys("username")
senha.send_keys("password")

""" Locate our login element """
login = WebDriverWait(driver, delay).until(EC.presence_of_element_located((By.ID, 'acessar')))

""" Click Login """
login.click()