python不能导入mysql_Python导入数据到MySQL常见问题
今天练习Python导入csv数据到MySQL,使用代码如下:
import pandas as pd
from sqlalchemy import create_engine
# MySQL的用户:user, 密码:password, 端口:3306,数据库:test
engine = create_engine('mysql+pymysql://user:password@localhost:3306/test')
# 用pd.read_csv导入文件
df = pd.read_csv(filepath,sep=',',names=['字段名A','字段名B'])
# 将新建的DataFrame储存为MySQL中的数据表,不储存index列
df.to_sql(tablename, engine, if_exists='append',index= False)
第一次报错:
OSError: Initializing from file failed
网上查了一些相关文章,发现由于read_csv默认使用engine='C'来解析数据,路径中含有中文字符时就会报错,解决方法有三种:
1.最简单的,更改路径中的中文部分。
2.更改解析引擎为python。
df = pd.read_csv(filepath,sep=',',names=['字段名A','字段名B'],engine='python')
3.先通过open打开文件,再读入已打开的数据。
df = pd.read_csv(open(filepath),sep=',',names=['字段名A','字段名B'])
在尝试最后一种方法时又出现了新的报错:
UnicodeDecodeError: 'gbk' codec can't decode byte 0xb3 in position 4: illegal multibyte sequence
这里编码出现错误,正确做法是更换编码方式,尝试utf8成功:
df = pd.read_csv(open(filepath,encoding='utf8'),sep=',',names=['字段名A','字段名B'])
未必所有的编码问题都可以通过更改为utf8解决,可以多试一些不同编码,常见如utf8、gbk、gb18030。
前两个问题都解决之后我又在数据导入上遇到了新的问题:
MySQL server has gone away
2M的小文件导入没有问题,但20M的文件连续两次都出现了上面的报错,由此我猜测问题可能和文件大小有关。
一番搜索之后我发现MySQL有个max_allowed_packet配置,用来限制MySQL服务端接收到的数据大小,而默认值仅有4M,导入20M的文件时显然会因为文件过大而导致MySQL server has gone away~
解决方法就是在MySQL终端更改全局变量(global) max_allowed_packet的值:
set global max_allowed_packet=209715200;
这里我们就把max_allowed_packet的值改成了200M。
可以查看确认更改结果。
show global variables like 'max_allowed_packet';
再运行python程序就可以成功导入文件了。
还有一种方法是找到my.ini文件直接修改文件中的配置,workbench下的my.ini文件是在C盘的隐藏文件夹ProgramData下,详细路径是:
C:\ProgramData\MySQL\MySQL Server 版本号\my.ini
打开文件之后发现max_allowed_packet=4M没有发生变化,但重新打开MySQL命令行终端查看max_allowed_packet时显示为200M。为了搞清楚数值不匹配的原因,我从计算机管理端重启了MySQL,这时再查看max_allowed_packet又恢复了4M。
因此,在命令行进行的配置修改是临时的,每次重启服务器又会从本地配置文件中读取数据更新配置,想要永久修改配置需要更新本地文件。
python不能导入mysql_Python导入数据到MySQL常见问题相关推荐
- php excel导入数据库显示乱码,php修改excel表格数据库数据格式-使用phpexcel导入excel表格数据到MYSQL,乱码怎么解决...
PHP 用PHPExcel往数据库导入大量数据 估计0是null,所以不显示了,可以换个思路,让他显示为字符串 $number = 0; echo ''.$number 原生PHP代码实现excel导 ...
- 导入 txt 文件数据到 MySQL 表
导入 txt 文件数据到 MySQL 表 需求:导入数据到 MySQL 表中 操作: 新建一个 .txt 文件 新建一个表 右击表选择导入向导 选择导入类型为文本文件(*.txt) 选择创建的 .tx ...
- jsp后台批量导入excel表格数据到mysql中_PHP批量导入excell表格到mysql数据库
PHP批量导入excell表格到mysql数据库,本人通过亲自测试,在这里分享给大家 1,下载 php excell类库 网上搜索可以下载,这里不写地址 2,建html文件 请选择你要上传的EXCE ...
- jsp后台批量导入excel表格数据到mysql中_运用java解析excel表,拿到表中的数据并批量插入数据库...
首先,本文是运用jxl进行excel表的解析,所以我们需要先下载一个jxl.jar的jar包: 并且需要一个与excel表对应的实体类,用于接收excel的数据: 然后就是代码部分,我们先编写一个函数 ...
- Python 爬虫基础: 如何将数据存入Mysql数据库
使用爬虫爬数据,总要涉及到数据持久化,也就是数据存储的问题. 我们可以根据具体情况把数据保存在本地 txt 文件里,excel 里,csv 里等等,当然也可以存储在数据库里. 本篇博客主要记录如何通过 ...
- python循环次数查询_大数据量Mysql查询后经过循环使用python分片
1 问题描述: (1)使用mysql查询基础数据,这里只有三四个基础的查询条件,联了一个表,同时有limit分页了: (2)之后经过一系列逻辑处理,在这些处理中又包含了很多sql查询,而且是在第(1) ...
- python爬取 xueqiu网 数据 存入MySQL数据库中
#导入包 from urllib import request import json import pymysql #声名一个class类 class mysql_connect(object):# ...
- Python保存dict字典类型数据到Mysql,并自动创建表与列
主要是工具类,使用pymysql来创建表与SQL 示例代码 import pymysqlclass UseMysql(object):def __init__(self, user, passwd, ...
- php上传查询excel到mysql_PHP上传Excel文件导入数据到MySQL数据库示例
PHP上传Excel文件导入数据到MySQL数据库示例2020-06-20 00:34:11 最近在做Excel文件导入数据到数据库.网站如果想支持批量插入数据,可以制作一个上传Excel文件,导入里 ...
最新文章
- Python培训教程分享:Python模块如何导入__all__属性?
- 又有六所大学考研预调剂系统已开放!
- aws主机php环境搭建,亚马逊AWS上安装Nginx(Linux,CentOS环境)
- mysql 远程日志_让mysql能够远程连接
- Linux set命令参数及与env, export的区别
- android自动化测试工具之monkey
- VMware vCloud® Suite 5.5功能介绍
- vts传感器采取船舶的_详解虎门大桥监测系统:传感器与物联网功不可没
- 《深入理解 Spring Cloud 与微服务构建》第十一章 服务网关
- 查找——顺序、二分法、斐波那契、插值、分块
- Nginx源码编译安装
- html放大镜,可清晰放大整个网页
- python定义一个字符串变量_python基础入门语法和变量类型(一)
- Win10系统CLSID大全介绍
- c语言编译作用,叙述 C语言编译
- Python 古诗写入、复制
- c语言大小箱子,基于C语言箱子游戏.doc
- Win10小娜关闭或删除进程
- 上海宝山锦隆考试基地科目三笔记
- Java Web(day05) —— 请求和响应