问题描述：

让购房者描述他们梦想中的房子，他们可能不会从地下室的天花板的高度或者是距离铁路的距离来考虑。但是这个数据集可以包含了影响房价的因素。79 个解释变量（几乎）描述了爱荷华州艾姆斯住宅的各个方面，

数据集下载：

House Prices - Advanced Regression Techniques | Kaggle

实现代码：

读取数据文件和对数据处理

import numpy as np
import pandas as pd
import torch
from torch import nn
from d2l import torch as d2ltrain_data = pd.read_csv('datasets/house-prices/train.csv')test_data =  pd.read_csv('datasets/house-prices/test.csv')#查看前四個和最後兩個特徵，以及相應標籤
train_data.iloc[0:4,[0,1,2,3,-3,-2,-1]]#数据集中的id需要删除
all_features = pd.concat((train_data.iloc[:,1:-1],test_data.iloc[:,1:]))
all_features

数据预处理：

将缺失值替换为平均值

离散值用独热编码来替换

数据转换为张量，为训练做准备


'''
若無法獲得測試數據，則可根據訓練數據計算平均值和標準差
'''
numeric_features = all_features.dtypes[all_features.dtypes != 'object'].indexall_features[numeric_features] = all_features[numeric_features].apply(lambda x:(x - x.mean()) / (x.std())
)
#在標準化數據後，所有均值消失，因此可以將缺失值設置為0
all_features[numeric_features] = all_features[numeric_features].fillna(0)'''
处理离散值。这包括诸如“MSZoning”之类的特征。我们用独热编码替换它们
'''
# “Dummy_na=True”将“na”(缺失值)视为有效的特征值，并为其创建指示符特征
all_features = pd.get_dummies(all_features, dummy_na=True)
all_features.shape'''
转换为张量
'''
n_train = train_data.shape[0]
train_features = torch.tensor(all_features[:n_train].values, dtype=torch.float32)
test_features = torch.tensor(all_features[n_train:].values, dtype=torch.float32) train_labels = torch.tensor(train_data.SalePrice.values.reshape(-1, 1), dtype=torch.float32
)

定义模型和定义损失函数


loss = nn.MSELoss()in_features = train_features.shape[1]def get_model():model = nn.Sequential(nn.Linear(in_features,1)) return model'''預測價格的對數與真實標籤之間的差值'''
def log_rmse(model,features,labels):clipp_preds = torch.clamp(model(features),1,float('inf'))rmse = torch.sqrt(loss(torch.log(clipp_preds),torch.log(labels)))return rmse.item()

训练函数（Adam优化器）

def train(model,train_features, train_labels, test_features, test_labels, num_epochs, learning_rate, weight_decay, batch_size):train_ls ,test_ls = [],[]train_iter = d2l.load_array((train_features,train_labels),batch_size)optimizer = torch.optim.Adam(model.parameters(),lr= learning_rate,weight_decay=weight_decay)for epoch in range(num_epochs):for x ,y in train_iter:optimizer.zero_grad()l = loss(model(x),y)l.backward()optimizer.step()train_ls.append(log_rmse(model,train_features,train_labels))if test_labels is not None:test_ls.append(log_rmse(model,test_features,test_labels))return train_ls,test_ls

验证函数（K折交叉验证）

'''k折交叉驗證'''
def get_k_fold_data(k,i,x,y):assert k > 1fold_size = x.shape[0] // kx_train,y_train = None,Nonefor j in range(k):idx = slice(j * fold_size, (j+1) * fold_size)x_part,y_part = x[idx,:],y[idx]if j ==  i:x_valid,y_valid = x_part,y_partelif  x_train is None :x_train,y_train = x_part,y_partelse :x_train =  torch.cat([x_train,x_part],0)y_train = torch.cat([y_train,y_part],0)return x_train,y_train,x_valid,y_valid

返回训练和验证误差的平均值


def k_fold(k,x_train, y_train, num_epochs, learning_rate, weight_decay, batch_size):train_l_sum , valid_l_sum = 0,0for i in range(k):data = get_k_fold_data(k,i,x_train,y_train)model = get_model()train_ls, valid_ls = train(model, *data, num_epochs, learning_rate,weight_decay, batch_size)train_l_sum += train_ls[-1]valid_l_sum += valid_ls[-1]if i == 0:d2l.plot(list(range(1, num_epochs + 1)), [train_ls, valid_ls], xlabel='epoch', ylabel='rmse', xlim=[1, num_epochs], legend=['train', 'valid'], yscale='log' )print(f'折{i + 1} 训练log rmse{float(train_ls[-1]):f}, ' f'验证log rmse{float(valid_ls[-1]):f}')return train_l_sum / k, valid_l_sum / k

模型训练与可视化

'''模型選擇'''
k, num_epochs, lr, weight_decay, batch_size = 5, 100, 5, 0, 64
train_l, valid_l = k_fold(k, train_features, train_labels, num_epochs, lr,weight_decay, batch_size)
print(f'{k}-折验证: 平均训练log rmse: {float(train_l):f}, 'f'平均验证log rmse: {float(valid_l):f}')

模型预测以及生成预测新文件

'''提交預測'''
def train_and_pred(train_features, test_feature, train_labels, test_data, num_epochs, lr, weight_decay, batch_size):net = get_model()train_ls, _ = train(net, train_features, train_labels, None, None,num_epochs, lr, weight_decay, batch_size) d2l.plot(np.arange(1, num_epochs + 1), [train_ls], xlabel='epoch',ylabel='log rmse', xlim=[1, num_epochs], yscale='log') print(f'训练log rmse:{float(train_ls[-1]):f}')# 将网络应用于测试集。preds = net(test_features).detach().numpy()# 将其重新格式化以导出到Kaggletest_data['SalePrice'] = pd.Series(preds.reshape(1, -1)[0])submission = pd.concat([test_data['Id'], test_data['SalePrice']], axis=1) submission.to_csv('submission.csv', index=False)'''生成文件'''
train_and_pred(train_features, test_features, train_labels, test_data, num_epochs, lr, weight_decay, batch_size)

参考：

《动手学深度学习》

【学习记录】Kaggle房价预测相关推荐

梯度消失和梯度爆炸_知识干货-动手学深度学习-05 梯度消失和梯度爆炸以及Kaggle房价预测...
梯度消失和梯度爆炸考虑到环境因素的其他问题 Kaggle房价预测梯度消失和梯度爆炸深度模型有关数值稳定性的典型问题是消失(vanishing)和爆炸(explosion). 当神经网络的层数较多 ...
（pytorch-深度学习系列）简单实现kaggle房价预测-学习笔记
实现kaggle房价预测导入所需模块: %matplotlib inline import torch import torch.nn as nn import numpy as np import ...
kaggle房价预测问题
参考:https://blog.csdn.net/m0_37870649/article/details/80979783 sklean的线性模型完成kaggle房价预测问题 https://www. ...
Pytorch kaggle 房价预测实战
Pytorch kaggle 房价预测实战 0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook 教程使用李沐老师的动手学深度学习网站和视频讲解小技巧:当遇到函数看不懂的时候 ...
深度学习：波士顿房价预测
深度学习:波士顿房价预测 1.代码 #加载波士顿房价数据 import keras from keras.datasets import boston_housing (train_data,trai ...
Transformer 实现 Kaggle 房价预测竞赛
Kaggle 房价预测竞赛是典型的机器学习中的回归问题,需要在训练集上对于房间的 N 个特征和房价之间的关系进行拟合,在测试集上,模型即可根据房间特征对房价作出预测.考虑到需要拟合多种特征之间的关系, ...
0907实战KAGGLE房价预测数据
数据集: 本文主要对KAGGLE房价预测数据进行预测,并提供模型的设计以及超参数的选择. 该数据集共有1460个数据样本,80个样本特征数据集介绍可参照: House Prices - Adv ...
kaggle房价预测-回归模型
目录 1 项目背景 2 初始数据分析目标值分析特征与目标值相关性变量特征相关性 3 数据预处理目标变量正态分布化异常值处理缺失值处理转换特征保存训练集和测试集 4 模型预测岭回归 l ...
kaggle赛事学习——house-prices-advanced-regression-technique（房价预测）
尝试计划目前是定下了两个目标通过看自己以前的代码,先搞出来一个简单的答案,不管准确率多少. 得到惨不忍睹的结果后,再去看论坛上大佬的方法. 看csdn这篇文章: link,能不能用他的TPOT方法 ...
kaggle房价预测特征意思_R语言实战：复杂数据处理和分析之Kaggle房价预测
1)明确分析的目的本次数据分析的数据来源于kaggle上有关于房价预测,数据来源:House Prices: Advanced Regression Techniques.此次的分析目的已经很明确了 ...

【学习记录】Kaggle房价预测

问题描述：

数据集下载：

实现代码：

读取数据文件和对数据处理

数据预处理：

定义模型和定义损失函数

训练函数（Adam优化器）

验证函数（K折交叉验证）

返回训练和验证误差的平均值

模型训练与可视化

模型预测以及生成预测新文件

参考：

【学习记录】Kaggle房价预测相关推荐

最新文章

热门文章