本次案例实现流程

一、思路分析

需要什么数据?需要的数据在哪里?

二、代码实现

  1. 发送请求
  2. 获取数据
  3. 解析数据
  4. 多页爬取
  5. 保存数据

知识点

  • requests发送请求
  • 开发者工具的使用
  • json类型数据解析
  • 正则表达式的使用

开发环境

  • 版 本:python 3.8
  • 编辑器:pycharm 2021.2

本次目标

对于本篇文章有疑问、或者想要源码的同学也可以点这里

分析网站

第一步:打开开发者工具,按F12,或者右键点击检查
第二步:刷新网站,点击搜索工具,在搜索框内输入基金代码,点击搜索

第三步:找到数据所在的真实url

开始代码

导入模块

import requests
import re
import csv

发送请求

url = f'http://fund.eastmoney.com/data/rankhandler.aspx?op=ph&dt=kf&ft=all&rs=&gs=0&sc=6yzf&st=desc&sd=2020-12-16&ed=2021-12-16&qdii=&tabSubtype=,,,,,&pi=1&pn=50&dx=1'
headers = {'Cookie': 'HAList=a-sz-300059-%u4E1C%u65B9%u8D22%u5BCC; em_hq_fls=js; qgqp_b_id=7b7cfe791fce1724e930884be192c85e; _adsame_fullscreen_16928=1; st_si=59966688853664; st_asi=delete; st_pvi=79368259778985; st_sp=2021-12-07%2014%3A33%3A35; st_inirUrl=https%3A%2F%2Fwww.baidu.com%2Flink; st_sn=3; st_psi=20211216201351423-112200312936-0028256540; ASP.NET_SessionId=miyivgzxegpjaya5waosifrb','Host': 'fund.eastmoney.com','Referer': 'http://fund.eastmoney.com/data/fundranking.html','User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36',
}
response = requests.get(url=url, headers=headers)

获取数据

data = response.text

解析数据 筛选数据

 data_str = re.findall('\[(.*?)\]', data)[0]

转变数据类型

tuple_data = eval(data_str)
for td in tuple_data:# 把td 变成列表td_list = td.split(',')

翻页

分析不同页数url变化规律

for page in range(1, 193):print(f'-------------------------正在爬取第{page}页内容-----------------------')url = f'http://fund.eastmoney.com/data/rankhandler.aspx?op=ph&dt=kf&ft=all&rs=&gs=0&sc=6yzf&st=desc&sd=2020-12-16&ed=2021-12-16&qdii=&tabSubtype=,,,,,&pi={page}&pn=50&dx=1'

保存数据

with open('基金.csv', mode='a', encoding='utf-8', newline='') as f:csv_write = csv.writer(f)csv_write.writerow(td_list)
print(td)

运行代码,得到数据


Python爬取天天基金数据,掌握财富密码(完整代码、注释、讲解)

Python采集天天基金数据,帮你掌握最新基金动向相关推荐

  1. Python采集天天基金数据信息,买到中意的股,赚上一笔小钱~

    前言 嗨喽!大家好,这里是魔王~ 赚了钱后我们在确定不能约束自己花钱大手大脚时,会想着借用外力来控制自己,让自己存点钱来买车买房 相信很多人会把钱存入基金中,保证自己不乱花钱的前提下还能赚小部分钱,毕 ...

  2. 用Python采集财经数据信息并作可视化

    嗨嗨,大家好下午好,我是小圆 ~ 今天给大家分享一下,如何用python采集财经数据信息并作可视化 开发环境: 解释器版本: python 3.8 代码编辑器: pycharm 2021.2 requ ...

  3. Python采集股票数据信息

    前言 今天打算来整整股票,简简单单的采集一些股票数据 对这个有兴趣的就一起来瞧瞧吧. 准备 开发环境 & 第三方模块 解释器版本: python 3.8 代码编辑器: pycharm 2021 ...

  4. Python采集天气数据,做可视化分析【附源码】

    知识点: 动态数据抓包 requests发送请求 结构化+非结构化数据解析 开发环境: python 3.8 运行代码 pycharm 2021.2 辅助敲代码 requests 如果安装python ...

  5. 双十一特辑:Python采集商品数据,实时了解商品价格

    前言 双十一还没有过去,虽然现在是某D的场景期,但是出这篇文章也不晚,可以冲刺一下10号的高峰期~ 各位朋友,尤其是学Python的直男朋友,看了这篇文章,准备准备给对象购买一下新年礼物吧,哈哈(也可 ...

  6. Python采集商品数据,实时了解商品价格【冲刺双十一高峰期】

    前言 双十一还没有过去,虽然现在是某D的场景期,但是出这篇文章也不晚,可以冲刺一下10号的高峰期~ 各位朋友,尤其是学Python的直男朋友,看了这篇文章,准备准备给对象购买一下新年礼物吧,哈哈(也可 ...

  7. 【Python实战】Python采集二手车数据——超详细讲解

    前言 今天,我们将采集某二手车数据,通过这个案例,加深我们对xpath的理解.通过爬取数据后数据分析能够直观的看到二手车市场中某一品牌的相对数据,能够了解到现在的二手车市场情况,通过分析数据看到二手车 ...

  8. API接口调用,获取淘宝天猫,拼多多,1688等平台商品详情,python采集爬虫数据

    Python技术 爬虫(又称为网页蜘蛛,网络机器人,在 FOAF 社区中间,更经常的称为网页追逐者):它是一种按照一定的规则,自动地抓取网络信息的程序或者脚本. 如果我们把互联网比作一张大的蜘蛛网,那 ...

  9. Python采集双色球数据,做数据分析,让我自己实现自己的富豪梦

    来唠点嗑? 咳咳,最近是咋的了,某站掀起了一股双色球热潮?一般我自己的账号上,是很少看到关于python这些内容的,都是小姐姐和热梗,或者其他搞笑视频 由于

最新文章

  1. 使用reveal.js制作PPT,并部署至GitHub
  2. python 包介绍:osmnx
  3. CnCommon 的一些通用函数说明
  4. 华为P30系列双景录像功能上线:同屏展示全景与特写
  5. 2021年三月中旬推荐阅读文章
  6. 如何让div中的文字只显示一行,多余的文字隐藏并加上省略号(超链接形式)...
  7. python谱聚类算法_谱聚类 - python挖掘 - 博客园
  8. 30岁之前创业想成功必看
  9. Windows10必装的宝藏便签软件不用起来太可惜了
  10. 单片机怎么通过按键控制计时器的开始和停止_《搞机作战室》机械师PX780控制中心软件使用教程...
  11. 小郡肝火锅点餐系统——测试部署发布
  12. 报错——xxx is not defined
  13. 计算机管理老是自动打开,电脑老是自动重启怎么回事怎么解决
  14. snapchat_如何在Snapchat快照中添加背景
  15. VMware14安装Ubuntu18.10
  16. Openpose Windows10环境并且是3系显卡+ Unity 环境部署
  17. android.hardware.Camera 5.1之后操作照相机是不是不能用啦,我用小米手机(基本android 6.0)
  18. Verilog状态机常见三种写法
  19. 从1000篇热门笔记,看小红书的种草趋势
  20. 魅力城市:内蒙古满洲里

热门文章

  1. H5的jsapi微信支付:wx.chooseWXPay,ios手机在支付成功后不执行success中的回调函数
  2. 【css】CSS层叠样式表二
  3. CSS叠层样式表(三)
  4. android plc 课程,基于Android的智能PLC操控软件设计与实现
  5. 中兴服务器管理口地址,跪求!!!怎么获取服务器管理口的IP地址???
  6. 资源 | 斯坦福大学Tensorflow深度学习课程表
  7. LabVIEW2016软件安装步骤
  8. XCS10XL-4VQ100C介绍
  9. sp公司新人培训经典教案
  10. matlab二维、三维矩阵转换、排序、转置等问题