张凡幸,人工智能初阶小白,初学Python,喜欢数据分析、爬虫相关内容

微信公众号:学习随笔(ID:walker398)

前言:

数据森麟公众号收到读者来稿,一篇关于《爱情公寓》电影版的数据分析,在此向张凡幸同学表示感谢,同时感谢张同学允许将这篇文章的原创tag打在数据森麟公众号上。张同学个人公众号的二维码在下方,大家可以多多关注,互相交流:

下面进入正文:

最近闲来无事,看到数据森麟公众号分享的有关《西虹市首富》的猫眼电影评论分析

PART1:数据爬取


相关代码:

# coding: utf-8
import pandas as pd
import requests
import random
import json
import time
header={
    'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36',
    'Connection':'keep-alive'
}
cookies = '_lxsdk_cuid=1651950e6dfc8-02b4e01b2f82ec-6b1b1279-100200-1651950e6dfc8; _lxsdk=FA2EEC709AFE11E883FE1F23FDF\
          D6ADBB39CE732DF384D9DADFD1909B110AD64; v=3; _lx_utm=utm_source%3DBaidu%26utm_medium%3Dorganic; __mta=121983668.153372\
          8057235.1533731802598.1533731803845.10'
cookie = {}
for line in cookies.split(';'):
    name, value = cookies.strip().split('=', 1)
    cookie[name] = value
love_apartment = pd.DataFrame(columns=['data','score','city','comment','nick'])
for i in range(0,1000):
    j = random.randint(1,1000)
    print(str(i)+' '+str(j))
    try:
        time.sleep(2)
        url = 'https://m.maoyan.com/mmdb/comments/movie/1175253.json?_v_=yes&offset='+str(j)
        html = requests.get(url=url, cookies=cookie,headers=header).content
        data = json.loads(html.decode('utf-8'))['cmts']
        for item in data:
            love_apartment = love_apartment.append({'data':item['time'].split(' ')[0],'city':item['cityName'],
                                                    'score':str(item['score']),'comment':item['content'],'nick':item['nick']},
                                                   ignore_index=True)
        love_apartment.to_csv('爱情公寓.csv',index=False)
    except:
        continue

数据获取的最大的难点就是猫眼电影短评的api,如果直接在电脑上用浏览器是获取不到api的,本次采用的是利用手机,UC,Fiddler软件对网站的url、header及cookie进行获取,具体网址:

https://blog.csdn.net/shimengran107/article/details/78644862

另外这回也是第一次尝试pandas,所以也费了不少时间去学习,附上相关网址:

https://blog.csdn.net/liufang0001/article/details/77856255/

获得数据表如下:

这里遇到比较多问题就是编码问题,生成的CSV文件会出现乱码,有两种方法,我选择的是CSV转为Excel,附上相关解决方案的网址:

https://blog.csdn.net/lht_okk/article/details/54929103

https://blog.csdn.net/erinalees/article/details/78862011

基本上数据获取就完成了,电影短评截止到现在大概有7万条,我利用Python的随机函数获取了其中的1千条左右(我也不知道为什么这么少...,有待考究,可是1千多条的数据清除无效地图城市也花了不少时间),然后进行数据分析,详情请见后文。

PART2:数据分析

首先附上图表神器pyecharts的技术文档的网址:http://pyecharts.org/#/zh-cn/charts

这里主要是使用其中的HeatMap(热力图)、Bar(柱状图/条形图)、Line(折线/面积图)、Geo(地理坐标系)、Overlap 类。

词云生成wordcloud使用网址:

https://blog.csdn.net/fly910905/article/details/77763086

这里遇到最大的障碍就是Pycharm导入pyecharts库、wordcloud库失败,至于为什么也是不懂。无奈只好通过相关网站下载.whl格式的安装包,在文件夹环境下安装库,可以成功使用。

上篇的pandas也在这里有应用,主要是涉及对数据表的排序、计算处理。主要的函数就是groupby和agg,groupby可以理解为基于行操作(对相同行进行归类),agg则是基于列的(统计列的平均值和数量)。

import pandas as pd
from pyecharts import Bar, Line,Overlap,Geo
import jieba
from wordcloud import WordCloud,ImageColorGenerator
import matplotlib.pyplot as plt
from collections import Counter

love_apartment_com = pd.read_excel('爱情公寓.xlsx',encoding='utf-8')
grouped = love_apartment_com.groupby(['city'])
grouped_pct = grouped['score']

city_com = grouped_pct.agg(['mean', 'count'])
city_com.reset_index(inplace=True)
city_com['mean'] = round(city_com['mean'], 2)
data = [(city_com['city'][i], city_com['count'][i]) for i in range(0, city_com.shape[0])]
geo = Geo('《爱情公寓》全国热力图', title_color="#fff",title_pos="center", width=1200, height=600, background_color='#404a59')
attr, value = geo.cast(data)
geo.add("", attr, value, type="heatmap",  is_visualmap=True, visual_range=[0, 20],visual_text_color="#fff")
geo.render('爱情公寓全国观影图.html')

在做第一张图表的时候,出现最大的问题就是pyecharts地图资源不全面,所以只好自己慢慢对Excel表筛除无效数据,着实是费了不少时间。从图中看出来,内陆确实人烟稀少,长三角,珠三角,沿海,北京,重庆都是金钱大佬,毕竟能去看电影,评得起分......

city_main = city_com.sort_values('count',ascending=False)[0:20]
attr = city_main['city']
v1 = city_main['count']
v2 = city_main['mean']
line = Line("主要城市评分")
line.add("城市", attr, v2, is_stack=True, xaxis_rotate=30, yaxis_min=0, mark_point=["max", "min"], xaxis_interval=0,
         line_color='lightblue', line_width=4, mark_point_textcolor='black', mark_point_color='lightblue', is_splitline_show=False)
bar = Bar("主要城市评论数")
bar.add("城市", attr, v1, is_stack=True, xaxis_rotate=30, yaxis_min=0, xaxis_interval=0, is_splitline_show=False)
overlap = Overlap()
overlap.add(bar)
overlap.add(line, yaxis_index=1, is_add_yaxis=True)
overlap.render('主要城市评分and评论数.html')

这边少了折线图y轴坐标的注释,明明程序里是有添加的,但是不知为何没有显示,我对城市其实没多大兴趣,主要想看就是电影评分,不过总的来说确实分低,也许这就是卖弄情怀的结果,欺骗了广大观众朋友的感情。

city_score = city_main.sort_values('mean',ascending=False)[0:20]
attr = city_score['city']
v1 = city_score['mean']
line = Line('爱情公寓主要城市评分')
line.add("城市", attr, v1, is_stack=True, xaxis_rotate=30, yaxis_min=0, mark_point=["min", "max"], xaxis_interval=0,
         line_color='lightblue', line_width=4, mark_point_textcolor='black', mark_point_color='lightblue', is_splitline_show=True)
line.render('爱情公寓主要城市评分.html')

最高:4.36分,最低:2.21分,数据收集的不少,应该还算可靠。

city_score_area = city_com.sort_values('count',ascending=False)[0:30]city_score_area.reset_index(inplace=True)data = [(city_score_area['city'][i], city_score_area['mean'][i]) for i in range(0, city_score_area.shape[0])]geo = Geo('《爱情公寓》全国打分图', title_color="#fff",title_pos="center", width=1200, height=600, background_color='#404a59')attr, value = geo.cast(data)geo.add("", attr, value, visual_range=[0, 5],visual_text_color="#fff", symbol_size=15, is_visualmap=True,is_roam=False)geo.render('爱情公寓全国打分图.html')

一片黄颜色的点点,评分大多在中间段

love_apartment_str = ' '.join(love_apartment_com['comment'])
words_list = []
word_generator = jieba.cut_for_search(love_apartment_str)
for word in word_generator:
    words_list.append(word)
words_list = [k for k in words_list if len(k)>1]
back_color = plt.imread('爱心.jpg')
wc = WordCloud(background_color='white',
               mask=back_color,
               font_path='C:\Windows\Fonts\STZHONGS.TTF',
               max_words=2000,
               max_font_size=250,
               random_state=30,
               )
love_apartment_count = Counter(words_list)
wc.generate_from_frequencies(love_apartment_count)
image_colors = ImageColorGenerator(back_color)
plt.figure()
plt.imshow(wc.recolor(color_func=image_colors))
plt.axis('off')
print('生成词云成功!')
wc.to_file('love_apartment.jpg')

生成的词云如下:

怎么说呢,一开始看跑男的节目的时候还以为有点搞头,慢慢的时间越长名堂也越来越明显了,网上的评论也是吐槽不少,不过这也不是我该操心的事了。

十年青春,说过就过,依稀还记得里面的一句台词:人生没有彩排,每一天都是现场直播。共勉!


如果大家周围有对数据分析&数据挖掘感兴趣的朋友,欢迎在朋友圈分享&转发我们的公众号,让更多的朋友加入数据森麟。有好的文章也可以联系我与大家分享,需要获取代码转载本公众号文章,可以直接在公众号或者文章下方留言

往期文章:


【读者来稿】数据解读《爱情公寓》电影版——十年一瞬间相关推荐

  1. 用Python解读分析《爱情公寓》电影版

    ♚  作者:张凡幸,人工智能初阶小白,初学Python,喜欢数据分析.爬虫相关内容 最近闲来无事恰巧<爱情公寓>电影版上映,10年青春,来看看大家是怎么去吐槽的. PART1:数据爬取 相 ...

  2. 大数据带你看《爱情公寓》如何十年情怀变“公墓”

    最近一场爱情公寓大电影,真的是狠狠刷了一波存在感,从2009年第一部播出至今可谓是赚足了观众的笑点,几位主演也因此大红大紫.然而,第四季结束,并没有给这个故事画上一个完美的结局,这也不禁观众对爱五蒙生 ...

  3. 致青春VS杜蕾斯,用QQ空间电影大数据解读关联性

    按照<黑天鹅>的理论,下一部我们想看什么电影,甚至什么是好电影,都没有人知道.<爆发>却说,人类行为93%是可以预测的,预见未来依靠的就是"大数据",这与Q ...

  4. skr!《爱情公寓》电影版来了

         (本内容转载自公众号"科技与Python") 今日,由韦正执导.汪远编剧,"曾小贤"陈赫."胡一菲"娄艺潇."唐悠悠&q ...

  5. Neo4j CEO Emil Eifrem 解读图数据平台引领数据库未来十年的发展

    Neo4j CEO Emil Eifrem 解读图数据平台引领数据库未来十年的发展 Neo4j CEO Emil Eifrem 解读图数据平台引领数据库未来十年的发展 Here's the table ...

  6. 你看一场电影 大数据解读了这些秘密

    文章讲的是你看一场电影 大数据解读了这些"秘密",电影票在线销售已超过了线下的影院销售,对应的,越来越多的用户数据也被收集分析.结果是,你买了一张电影票,跟着就会知道你看完电影可能 ...

  7. Python爬虫之豆瓣电影评论数据的爬取(十四)

    原创不易,转载前请注明博主的链接地址:Blessy_Zhu https://blog.csdn.net/weixin_42555080 本次代码的环境: 运行平台: Windows Python版本: ...

  8. 数据与广告系列三十二:重排ReRank,广告推荐算法链路上的背叛者,生态系统格局的重塑者...

    作者·黄崇远 『数据虫巢』 全文23138字 题图ssyer.com " 在推荐系统又或者计算广告中,重排ReRank明目张胆的把召回.粗排.精排几个链路逻辑辛苦生成的序给打乱,但却敢号称是 ...

  9. 神策数据发布汽车行业版,加速车企卓越数字化体验

    2022 年 6 月 23 日,以"卓越用户体验,数据驱动价值"为主题的神策数据汽车行业版发布会正式召开!发布会上,神策数据联合 Cheil Greater China,汇聚重磅嘉 ...

最新文章

  1. ef 排序string转int_排序算法之基本排序算法
  2. C++ Primer 5th笔记(chap 19 特殊工具与技术)运行时类型识別RTTI
  3. 新宝来引擎盖怎么打开
  4. thinkphp url去掉index.php,thinkphp 去掉URL 里面的index.php(?s=)
  5. 删除选修c语言课程的女生成绩记录,pta10-1 查询没有选修‘C语言‘课程的学生 (10分)...
  6. js map的get 和list比 那个快_js中let和var
  7. [C#] LINQ之GroupBy
  8. 文件与Base64的互转
  9. PI闭环的FPGA实现
  10. XS128 中断向量表
  11. 全志a20 开发板 linux,全志A83T开发板SDK资料,A20/A31S升级,QT5,Android5.1,Lubuntu
  12. pwm波控制舵机原理(转)
  13. 计算机应用基础南丁格尔,关于单元基础训练的习题
  14. 行测-判断推理-图形推理-样式规律-黑白运算
  15. 9. 【gRPC系列学习】连接失败处理:backoff协议
  16. Qpython教程和软件下载(Android手机学习python的平台利器)
  17. 利用 Pyecharts 制作饼图
  18. linux信号函数signal(SIGCHLD, SIG_IGN)
  19. 域名证书(SSL)格式说明
  20. 给Java开发者的Flutter开发基础---Dart语言

热门文章

  1. 熊猫TV全部分类页面布局实现效果
  2. 2020年 学期计划
  3. java贪吃蛇系统架构_java贪吃蛇游戏框架搭建
  4. JZOJ-senior-5937. 【NOIP2018模拟10.30】斩杀计划
  5. 《Channel-wise Knowledge Distillation for Dense Prediction》论文详解
  6. qt on android 环境搭建的心酸过程
  7. 一些寓意深刻的经典短文
  8. 单片机读取SD卡数据解决方案
  9. 计算机网络——阻塞IO、非阻塞IO、IO多路复用
  10. 数据安全,系统稳定,非凸运营团队做客户背后坚定的力量