RELATEED CONSULTING
相关咨询
选择下列产品马上在线沟通
服务时间:8:30-17:00
你可能遇到了下面的问题
关闭右侧工具栏

新闻中心

这里有您想知道的互联网营销解决方案
Python爬取豆瓣电影方法是什么-创新互联

本篇内容主要讲解“Python爬取豆瓣电影方法是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Python爬取豆瓣电影方法是什么”吧!

成都创新互联公司专注为客户提供全方位的互联网综合服务,包含不限于网站制作、成都网站建设、河东网络推广、微信小程序、河东网络营销、河东企业策划、河东品牌公关、搜索引擎seo、人物专访、企业宣传片、企业代运营等,从售前售中售后,我们都将竭诚为您服务,您的肯定,是我们大的嘉奖;成都创新互联公司为所有大学生创业者提供河东建站搭建服务,24小时服务热线:18982081108,官方网址:www.cdcxhl.com

主要目标


环境:MAC + Python3.6 ;  IDE: Pycharm. 具体使用的模块如下。


import requests import re import json

但是如果你的系统上安装了anaconda,模块requests已经安装完成,但是pycharm不能识别。此时只需要使用preferences直接进行安装,入下图所示,点击+,直接安装即可。


爬取分析


对于每一个页面的爬取,我们使用的requests库。Requests是用python语言基于urllib编写的,采用的是Apache2 Licensed开源协议的HTTP库。它比urllib更加方便,可以节约我们大量的工作。(用了requests之后,你基本都不愿意用urllib了)一句话,requests是python实现的最简单易用的HTTP库,建议爬虫使用requests库。默认安装好python之后,是没有安装requests模块的,需要单独通过pip安装或者使用pycharm软件安装(如上文所示).

直接使用库requests中的get方法对目标网址发出申请。为了防止请求的页面没有成功,我们添加了捕获异常的代码块try,except。另外,如果多次爬取同一个网址,您的ip可能被封,不能在爬取任何信息。为了解决此问题,本次在代码中设置了代理信息,具体代码请关注人工智能与大数据生活(data_circle),文末长按二维码即可,回复 ”豆瓣电影“ 获得全部代码。

`python` def get_one_page(url):     '''
        抓取第一页内容
    :return: 请求的页面的信息
    '''     try:
       
        response = requests.get(url,headers=headers)

        if response.status_code == 200:
            return response.text

        return None     except RequestException:
        return None

页面解析


解析后的结果,我们使用write函数写入csv文件中,代码如下。

def write_to_file(content): '''

          保存结果到CSV文件
    :param content:
    :return: 无
    '''

    with open('douban_movie_250.csv','a',encoding='utf-8') as f:
        f.write(json.dumps(content,ensure_ascii=False)+'\n')

到此,相信大家对“Python爬取豆瓣电影方法是什么”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!


文章标题:Python爬取豆瓣电影方法是什么-创新互联
网站路径:http://lswzjz.com/article/degpij.html