如何从嵌入在网页中的Tableau图形中抓取工具提示值

问题描述 投票:0回答:1

[我正在尝试找出是否有一种方法以及如何使用python从网页中的Tableau嵌入式图中抓取工具提示值。

这是当用户将鼠标悬停在条形图上时带有工具提示的图形的示例:

https://public.tableau.com/views/NumberofCOVID-19patientsadmittedordischarged/DASHPublicpage_patientsdischarges?:embed=y&:showVizHome=no&:host_url=https%3A%2F%2Fpublic.tableau.com%2F&:embed_code_version=3&:tabs=no&:toolbar=yes&:animate_transition=yes&:display_static_image=no&:display_spinner=no&:display_overlay=yes&:display_count=yes&publish=yes&:loadOrderID=1

我从我要从其抓取的原始网页中获取了该URL:

https://covid19.colorado.gov/hospital-data

感谢您的任何帮助。

python web-scraping graph web-crawler tableau
1个回答
0
投票

[图形似乎是由JS生成的,看起来像是:]

POST https://public.tableau.com/TITLE/bootstrapSession/sessions/SESSION_ID 

SESSION_ID参数(除其他外)位于用于构建iframe的URL的tsConfigContainer文本区域中。

https://covid19.colorado.gov/hospital-data开始:

  • 检查类别为tableauPlaceholder的元素
  • 获得具有属性paramname元素
  • 它为您提供url:https://public.tableau.com/views/{urlPath}
  • 上一个链接为您提供了ID为tsConfigContainer并带有一堆JSON值的文本区域
  • 提取session_id和根路径(vizql_root
  • https://public.tableau.com/ROOT_PATH/bootstrapSession/sessions/SESSION_ID作为表单数据在sheetId上进行POST
  • 从结果中提取json(结果不是json)

代码:

import requests
from bs4 import BeautifulSoup
import json
import re

r = requests.get("https://covid19.colorado.gov/hospital-data")
soup = BeautifulSoup(r.text, "html.parser")

# get the second tableau link
tableauContainer = soup.findAll("div", { "class": "tableauPlaceholder"})[1]
urlPath = tableauContainer.find("param", { "name": "name"})["value"]

r = requests.get(
    f"https://public.tableau.com/views/{urlPath}",
    params= {
        ":showVizHome":"no",
    }
)
soup = BeautifulSoup(r.text, "html.parser")

tableauData = json.loads(soup.find("textarea",{"id": "tsConfigContainer"}).text)

dataUrl = f'https://public.tableau.com{tableauData["vizql_root"]}/bootstrapSession/sessions/{tableauData["sessionid"]}'

r = requests.post(dataUrl, data= {
    "sheet_id": tableauData["sheetId"],
})

dataReg = re.search('\d+;({.*})\d+;({.*})', r.text, re.MULTILINE)
info = json.loads(dataReg.group(1))
data = json.loads(dataReg.group(2))

print(data["secondaryInfo"]["presModelMap"]["dataDictionary"]["presModelHolder"]["genDataDictionaryPresModel"]["dataSegments"]["0"]["dataColumns"])

从那里您拥有所有数据。您将需要寻找拆分数据的方式,因为似乎所有数据都是通过单个列表转储的。为此,可能需要查看JSON对象中的其他字段。

© www.soinside.com 2019 - 2024. All rights reserved.