对于某东平台XX娃娃的用户体验进行（严肃、限速）数据分析

hhh188764 2020-10-20 原文

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理

本次的爬取目标是某东的一个商品，但从来没有用过，所以本人很好奇。我们就采集这个商品的评论，看看用过的人怎么说，体验如何。最后在词云显示这次的关键词

本次目标

某东商品评论，并词云显示关键词

受害者地址

https://item.jd.com/12520305479.html#crumb-wrap

真刺激

环境

Python 3.6
pycharm

爬虫代码

导入工具

import requests
import time
import re

通过开发者工具可以找到相对应的数据接口

查看接口数据参数

多查看几页数据，可以发现page是从 0 1 2 3 开始相对应页数

注意点：

网页是GBK编码需要转码
返回数据可用正则提取，并非json数据

开始爬取评论数据

for page in range(0, 100):
    url = 'https://club.jd.com/comment/productPageComments.action?callback=fetchJSON_comment98&productId=12520305481&score=0&sortType=5&page={}&pageSize=10&isShadowSku=0&rid=0&fold=1'.format(page)
    headers = {
        'cookie': 'PCSYCityID=CN_0_0_0; jwotest_product=99; areaId=18; ipLoc-djd=18-1482-48936-0; unpl=V2_ZzNtbUtfQUYgCEEEfUtZA2IFEQ5LAxYTcVpOASxLXAJgUBEKclRCFnQURlVnGVQUZwQZWUFcRxVFCEdkeB5fA2AFEFlBZxBFLV0CFi9JH1c%2bbRdZQF5EHHwAQ1R8KWwGZzMSXHJTQhV2DE5RchFsNWAzIm1AVUUUfA92VUsYbEczXxpUS1FLHTgMR1R4HVQAbgsiXHJU; __jdv=76161171|baidu-search|t_262767352_baidusearch|cpc|45386889416_0_893bd16a7c47472b8ed75c9dfc166b2f|1603097572255; __jdu=501259489; shshshfpb=tD5U5kzKI%2FrPwiQKAePBtLQ%3D%3D; shshshfpa=7a29fb15-8ae0-995d-303d-02ced1f37473-1601270653; __jda=122270672.501259489.1603097571.1603097571.1603097572.1; __jdc=122270672; shshshfp=8605b9031ad5da18cc9f19e47d4edcba; 3AB9D23F7A4B3C9B=C6CFZWH3AOQJASJVY4I5ZGKYGRGCYTU4KH4XYGXAXS5MQ3QRIGKR7TSLJWPIMM7X2SE6I6WLMCB5ZIYCYBSOO4KRBI; shshshsID=4596a4a3bf541ff0cee5bb2d2a1d9714_6_1603097694903; __jdb=122270672.6.501259489|1.1603097572; JSESSIONID=F2250FD11DD25985B7572DD293CBDC12.s1',
        'referer': 'https://item.jd.com/12520305481.html',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=url, headers=headers)
    for i in lis:
        with open('商品评论.txt', mode='a', encoding='utf-8') as f:
            f.write(i)
            f.write('\n')
            print(i)

运行代码，效果如下图

emmmm，评论很精彩，嘿嘿

词云代码

import jieba
import wordcloud
import imageio
# 导入imageio库中的imread函数，并用这个函数读取本地图片，作为词云形状图片
# py = imageio.imread(r"D:\python\demo\京东娃娃\timg.png")
f = open(r'评论数据地址', encoding='utf-8')
txt = f.read()
# print(txt)
# jiabe 分词 分割词汇
txt_list = jieba.lcut(txt)
string = ' '.join(txt_list)
# 词云图设置
wc = wordcloud.WordCloud(
        width=1000,         # 图片的宽
        height=700,         # 图片的高
        background_color='white',   # 图片背景颜色
        font_path='msyh.ttc',    # 词云字体
        # mask=py,     # 所使用的词云图片
        scale=15,
        stopwords={'真的', '感觉', '这个', '这个', '这个'},
        # contour_width=5,
        # contour_color='red'  # 轮廓颜色
)
# 给词云输入文字
wc.generate(string)
wc.to_file(r'保存图片地址')