知识点

在全美婴儿名字案例中，使用到的方法有：

按照sex分组按照births属性求和：groupby("sex").births.sum()

concat()用法：第一个参数以列表形式添加

pivot_table透视表制作

image.png

直接添加某列属性diff：group['diff']=group['M] - group['F']

apply()用法

查看DF数据信息：info()

不同方式绘制可视图：

image.png

image.png

查看DF数据框中的所有信息value，除去索引和属性

累计求和：cumsum()

归一化后寻找某个分界点的位置：searchsorted(0.5)

对df中的name属性使用func函数：df.name.map(func)

归一化处理：df/df.sum()

挑选不重复元素：unique()

字符串转化：str.lower()：一定还要带上str

字符串中是否包含：str.contains()

import pandas as pd

import numpy as np

import matplotlib.pyplot as plt

# 创建数据指定列属性

data = pd.read_csv(r'D:\Python\datalearning\利用Python进行数据分析\pydata-book\datasets\babynames\yob1880.txt',

names=['name', 'sex', 'births'])

data.head()

image.png

# groupby使用：通过指定一个属性来求另一个的和

data.groupby('sex').births.sum()

image.png

# 同一个路径下面，多个TXT文件合并封装到一个DF里面

years = range(1880, 2011)

pieces = []

columns = ['name', 'sex', 'births']

for year in years:

path = r'D:\Python\datalearning\利用Python进行数据分析\pydata-book\datasets\babynames\yob{}.txt'.format(year)

frame = pd.read_csv(path, names=columns)

# 增加一列数据，属性是year；frame['year']中的

frame['year'] = year

pieces.append(frame)

# concat方法：默认按行组合，加上ignore_index=True取消原始行号

# concat 第一个参数必须是序列或者S或者DF数据，并且是列表的形式

# 上面将所有的frame放进pieces中

names = pd.concat(pieces, ignore_index=True)

image.png

数据透视pivot_table

total_births = names.pivot_table('births', index='year', columns='sex', aggfunc=sum)

total_births.head()

image.png

增加一列数据

# prop列相当于是指定名字相对于总出生数的比例

def add_group(group):

group['prop'] = group.births / group.births.sum()

return group

# 先分组，再利用函数求比例

names = names.groupby(['year', 'sex']).apply(add_group)

names.groupby(['year', 'sex']).prop.sum().head()

image.png

image.png

# DIY模式

pieces = []

for year, group in grouped:

pieces.append(group.sort_values(by='births', ascending=False)[:1000])

top1000 = pd.concat(pieces, ignore_index=True)

分析命名趋势

image.png

# 挑选出4个名字

subset = total_births[['John', 'Harry', 'Mary', 'Marilyn']]

subset.head()

# 绘图

subset.plot(subplots=True, figsize=(12, 10), grid=False,

title="Number of births per year")

image.png

计算最流行的1000个名字的比例，按照year和sex聚合并绘图

table = top1000.pivot_table("prop", index='year',

columns='sex', aggfunc=sum)

table.plot(title='Sum of table1000.prop by year and sex',

yticks=np.linspace(0, 1.2, 13), xticks=range(1880, 2020, 10))

image.png

# 统计2010年男孩的名字；prop的降序排列

df = boys[boys.year == 2010]

df.head(20)

# prop降序之后，通过累计求和，找出哪些名字加起来等于0.5

# cumsum()累计求和

prop_cumsum = df.sort_values(by='prop', ascending=False).prop.cumsum()

prop_cumsum[:10]

image.png

diversity = top1000.groupby(['year', 'sex']).apply(get_quantile_count)

diversity = diversity.unstack('sex')

image.png

最后一个字母的变革

# 定义一个lambda函数，得到最后一个字母

get_last_letter = lambda x: x[-1]

# 通过map函数将上面的lambda应用在其中

last_letters = names.name.map(get_last_letter)

# 给last_letters命名为last_letter

last_letters.name = 'last_letter'

table = names.pivot_table('births', index=last_letters,

columns=['sex', 'year'], aggfunc=sum)

# 归一化处理

letter_prop = subtable / subtable.sum()

letter_prop

fig, axes = plt.subplots(2,1,figsize=(10 ,8))

letter_prop['M'].plot(kind='bar', rot=0, ax=axes[0], title='Male')

letter_prop['F'].plot(kind='bar', rot=0, ax=axes[1], title='Female',legend=False)

image.png

image.png

image.png

男孩名字变成女孩名字

# unique找出所有不重复的名字

all_names = pd.Series(top1000.name.unique())

# 先把名字变成小写，再看是否包含lesl

lesley_like = all_names[all_names.str.lower().str.contains('lesl')]

# 通过isin来过滤其他名字

filtered = top1000[top1000.name.isin(lesley_like)]

# 通过name属性来分组，再选择根据births属性来统计求和

filtered.groupby('name').births.sum()

image.png

# 按照性别和年度进行聚合，年度进行规范化处理

table = filtered.pivot_table("births", index='year',

columns='sex', aggfunc='sum')

table = table.div(table.sum(1), axis=0)

table.tail()

image.png