Python爬虫新手教程: 知乎文章图片爬取器

论坛 期权论坛 期权     
Python学习交流乐园   2019-7-20 20:07   5226   0
[h1]1. 知乎文章图片爬取器之二博客背景[/h1]昨天写了知乎文章图片爬取器的一部分代码,针对知乎问题的答案json进行了数据抓取,博客中出现了部分写死的内容,今天把那部分信息调整完毕,并且将图片下载完善到代码中去。


image
[h3]当然在学习Python的道路上肯定会困难,没有好的学习资料,怎么去学习呢?学习Python中有不明白推荐加入交流群号:790921645 群里有志同道合的小伙伴,互帮互助, 群里有不错的视频学习教程和PDF![/h3]首先,需要获取任意知乎的问题,只需要你输入问题的ID,就可以获取相关的页面信息,比如最重要的合计有多少人回答问题。
问题ID为如下标红数字
编写代码,下面的代码用来检测用户输入的是否是正确的ID,并且通过拼接URL去获取该问题下面合计有多少答案。
import requestsimport reimport pymongoimport timeDATABASE_IP = '127.0.0.1'DATABASE_PORT = 27017DATABASE_NAME = 'sun'client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)db = client.sundb.authenticate("dba", "dba")collection = db.zhihuone  # 准备插入数据BASE_URL = "https://www.zhihu.com/question/{}"def get_totle_answers(article_id):    headers = {        "user-agent": "需要自己补全 Mozilla/5.0 (Windows NT 10.0; WOW64)"    }    with requests.Session() as s:        with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:            html = rep.text            pattern =re.compile( '')            s = pattern.search(html)            print("查找到{}条数据".format(s.groups()[0]))            return s.groups()[0]if __name__ == '__main__':    # 用死循环判断用户输入的是否是数字    article_id = ""    while not article_id.isdigit():        article_id = input("请输入文章ID:")    totle = get_totle_answers(article_id)    if int(totle)>0:        zhi = ZhihuOne(article_id,totle)        zhi.run()    else:        print("没有任何数据!")Python资源分享qun 784758214 ,内有安装包,PDF,学习视频,这里是Python学习者的聚集地,零基础,进阶,都欢迎完善图片下载部分,图片下载地址在查阅过程中发现,存在json字段的
  1. content
复制代码
中,我们采用简单的正则表达式将他匹配出来。细节如下图展示


编写代码吧,下面的代码注释请仔细阅读,中间有一个小BUG,需要手动把pic3修改为pic2这个地方目前原因不明确,可能是我本地网络的原因,还有请在项目根目录先创建一个
  1. imgs
复制代码
的文件夹,用来存储图片
def download_img(self,data):        ## 下载图片        for item in data["data"]:            content = item["content"]            pattern = re.compile('(.*?)')            imgs = pattern.findall(content)            if len(imgs) > 0:                for img in imgs:                    match = re.search('
分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:20
帖子:4
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP