今天练习Python导入csv数据到MySQL,使用代码如下:

import pandas as pd

from sqlalchemy import create_engine

# MySQL的用户:user, 密码:password, 端口:3306,数据库:test

engine = create_engine('mysql+pymysql://user:password@localhost:3306/test')

# 用pd.read_csv导入文件

df = pd.read_csv(filepath,sep=',',names=['字段名A','字段名B'])

# 将新建的DataFrame储存为MySQL中的数据表,不储存index列

df.to_sql(tablename, engine, if_exists='append',index= False)

第一次报错:

OSError: Initializing from file failed

网上查了一些相关文章,发现由于read_csv默认使用engine='C'来解析数据,路径中含有中文字符时就会报错,解决方法有三种:

1.最简单的,更改路径中的中文部分。

2.更改解析引擎为python。

df = pd.read_csv(filepath,sep=',',names=['字段名A','字段名B'],engine='python')

3.先通过open打开文件,再读入已打开的数据。

df = pd.read_csv(open(filepath),sep=',',names=['字段名A','字段名B'])

在尝试最后一种方法时又出现了新的报错:

UnicodeDecodeError: 'gbk' codec can't decode byte 0xb3 in position 4: illegal multibyte sequence

这里编码出现错误,正确做法是更换编码方式,尝试utf8成功:

df = pd.read_csv(open(filepath,encoding='utf8'),sep=',',names=['字段名A','字段名B'])

未必所有的编码问题都可以通过更改为utf8解决,可以多试一些不同编码,常见如utf8、gbk、gb18030。

前两个问题都解决之后我又在数据导入上遇到了新的问题:

MySQL server has gone away

2M的小文件导入没有问题,但20M的文件连续两次都出现了上面的报错,由此我猜测问题可能和文件大小有关。

一番搜索之后我发现MySQL有个max_allowed_packet配置,用来限制MySQL服务端接收到的数据大小,而默认值仅有4M,导入20M的文件时显然会因为文件过大而导致MySQL server has gone away~

解决方法就是在MySQL终端更改全局变量(global) max_allowed_packet的值:

set global max_allowed_packet=209715200;

这里我们就把max_allowed_packet的值改成了200M。

可以查看确认更改结果。

show global variables like 'max_allowed_packet';

再运行python程序就可以成功导入文件了。

还有一种方法是找到my.ini文件直接修改文件中的配置,workbench下的my.ini文件是在C盘的隐藏文件夹ProgramData下,详细路径是:

C:\ProgramData\MySQL\MySQL Server 版本号\my.ini

打开文件之后发现max_allowed_packet=4M没有发生变化,但重新打开MySQL命令行终端查看max_allowed_packet时显示为200M。为了搞清楚数值不匹配的原因,我从计算机管理端重启了MySQL,这时再查看max_allowed_packet又恢复了4M。

因此,在命令行进行的配置修改是临时的,每次重启服务器又会从本地配置文件中读取数据更新配置,想要永久修改配置需要更新本地文件。

python不能导入mysql_Python导入数据到MySQL常见问题相关推荐

  1. php excel导入数据库显示乱码,php修改excel表格数据库数据格式-使用phpexcel导入excel表格数据到MYSQL,乱码怎么解决...

    PHP 用PHPExcel往数据库导入大量数据 估计0是null,所以不显示了,可以换个思路,让他显示为字符串 $number = 0; echo ''.$number 原生PHP代码实现excel导 ...

  2. 导入 txt 文件数据到 MySQL 表

    导入 txt 文件数据到 MySQL 表 需求:导入数据到 MySQL 表中 操作: 新建一个 .txt 文件 新建一个表 右击表选择导入向导 选择导入类型为文本文件(*.txt) 选择创建的 .tx ...

  3. jsp后台批量导入excel表格数据到mysql中_PHP批量导入excell表格到mysql数据库

    PHP批量导入excell表格到mysql数据库,本人通过亲自测试,在这里分享给大家 1,下载 php  excell类库 网上搜索可以下载,这里不写地址 2,建html文件 请选择你要上传的EXCE ...

  4. jsp后台批量导入excel表格数据到mysql中_运用java解析excel表,拿到表中的数据并批量插入数据库...

    首先,本文是运用jxl进行excel表的解析,所以我们需要先下载一个jxl.jar的jar包: 并且需要一个与excel表对应的实体类,用于接收excel的数据: 然后就是代码部分,我们先编写一个函数 ...

  5. Python 爬虫基础: 如何将数据存入Mysql数据库

    使用爬虫爬数据,总要涉及到数据持久化,也就是数据存储的问题. 我们可以根据具体情况把数据保存在本地 txt 文件里,excel 里,csv 里等等,当然也可以存储在数据库里. 本篇博客主要记录如何通过 ...

  6. python循环次数查询_大数据量Mysql查询后经过循环使用python分片

    1 问题描述: (1)使用mysql查询基础数据,这里只有三四个基础的查询条件,联了一个表,同时有limit分页了: (2)之后经过一系列逻辑处理,在这些处理中又包含了很多sql查询,而且是在第(1) ...

  7. python爬取 xueqiu网 数据 存入MySQL数据库中

    #导入包 from urllib import request import json import pymysql #声名一个class类 class mysql_connect(object):# ...

  8. Python保存dict字典类型数据到Mysql,并自动创建表与列

    主要是工具类,使用pymysql来创建表与SQL 示例代码 import pymysqlclass UseMysql(object):def __init__(self, user, passwd, ...

  9. php上传查询excel到mysql_PHP上传Excel文件导入数据到MySQL数据库示例

    PHP上传Excel文件导入数据到MySQL数据库示例2020-06-20 00:34:11 最近在做Excel文件导入数据到数据库.网站如果想支持批量插入数据,可以制作一个上传Excel文件,导入里 ...

最新文章

  1. Python培训教程分享:Python模块如何导入__all__属性?
  2. 又有六所大学考研预调剂系统已开放!
  3. aws主机php环境搭建,亚马逊AWS上安装Nginx(Linux,CentOS环境)
  4. mysql 远程日志_让mysql能够远程连接
  5. Linux set命令参数及与env, export的区别
  6. android自动化测试工具之monkey
  7. VMware vCloud® Suite 5.5功能介绍
  8. vts传感器采取船舶的_详解虎门大桥监测系统:传感器与物联网功不可没
  9. 《深入理解 Spring Cloud 与微服务构建》第十一章 服务网关
  10. 查找——顺序、二分法、斐波那契、插值、分块
  11. Nginx源码编译安装
  12. html放大镜,可清晰放大整个网页
  13. python定义一个字符串变量_python基础入门语法和变量类型(一)
  14. Win10系统CLSID大全介绍
  15. c语言编译作用,叙述 C语言编译
  16. Python 古诗写入、复制
  17. c语言大小箱子,基于C语言箱子游戏.doc
  18. Win10小娜关闭或删除进程
  19. 上海宝山锦隆考试基地科目三笔记
  20. Java Web(day05) —— 请求和响应

热门文章

  1. Js日期格式 yy-mm-dd
  2. 淘系用户平台技术团队单元测试建设
  3. 实现图片预加载的几种方式
  4. com.netflix.hystrix.exception.HystrixRuntimeException
  5. 肿瘤,生物医学,统计
  6. 老干妈老了,VC爱上新辣酱赛道,高瓴、红杉狂投上亿
  7. iOS app开源项目
  8. 浅析中国服装销售软件的发展之路
  9. Dockerfile 如何实现编写优化
  10. vscode解决文件乱码终极方案