如何将Python抓取的Bing网页内容转换为人类可读的内容?

问题描述 投票:0回答:1

我正在使用python抓取Bing网页搜索页面。我发现收到的原始内容看起来像字节类型,但尝试解压缩它失败了。有人知道这是什么类型的数据,我应该如何从这个原始内容中提取可读性?谢谢!

我的代码显示原始内容,然后尝试执行gunzip,因此您可以看到原始内容以及解压缩中的错误。由于原始内容太长,我只需在下面粘贴第几行。

码:

import urllib.request as Request
import gzip

req = Request.Request('www.bing.com')
req.add_header('upgrade-insecure-requests', 1)
res = Request.urlopen(req).read()
print("RAW Content: %s" %ResPage) # show raw content of web
print("Try decompression:")
print(gzip.decompress(ResPage))   # try decompression

结果:

RAW Content: b'+p\xe70\x0bi{)\xee!\xea\x88\x9c\xd4z\x00Tgb\x8c\x1b\xfa\xe3\xd7\x9f\x7f\x7f\x1d8\xb8\xfeaZ\xb6\xe3z\xbe\'\x7fj\xfd\xff+\x1f\xff\x1a\xbc\xc5N\x00\xab\x00\xa6l\xb2\xc5N\xb2\xdek\xb9V5\x02\t\xd0D \x1d\x92m%\x0c#\xb9>\xfbN\xd7\xa7\x9d\xa5\xa8\x926\xf0\xcc\'\x13\x97\x01/-\x03... ...

Try decompression:
Traceback (most recent call last):
OSError: Not a gzipped file (b'+p')


Process finished with exit code 1
python python-requests web-crawler search-engine bing
1个回答
1
投票

开始使用请求库要容易得多。另外,这也是目前最常用的http请求库。

在python环境中安装请求:

pip install requests

在.py文件中:

import requests

r = requests.get("http://www.bing.com")

print(r.text)
© www.soinside.com 2019 - 2024. All rights reserved.