如何将CSV文件导入MySQL表?

我有一个来自客户端的非规范化事件日记CSV，我试图将其加载到MySQL表中，以便我可以重构成一个正常的格式。我创建了一个名为“CSVImport”的表，它有一个字段为CSV文件的每一列。CSV包含99列，所以这本身就已经是一项艰巨的任务:

CREATE TABLE 'CSVImport' (id INT);
ALTER TABLE CSVImport ADD COLUMN Title VARCHAR(256);
ALTER TABLE CSVImport ADD COLUMN Company VARCHAR(256);
ALTER TABLE CSVImport ADD COLUMN NumTickets VARCHAR(256);
...
ALTER TABLE CSVImport Date49 ADD COLUMN Date49 VARCHAR(256);
ALTER TABLE CSVImport Date50 ADD COLUMN Date50 VARCHAR(256);

表上没有约束，所有字段都包含VARCHAR(256)值，除了包含计数(用INT表示)、是/否(用BIT表示)、价格(用DECIMAL表示)和文本介绍(用text表示)的列。

我尝试将数据加载到文件中:

LOAD DATA INFILE '/home/paul/clientdata.csv' INTO TABLE CSVImport;
Query OK, 2023 rows affected, 65535 warnings (0.08 sec)
Records: 2023  Deleted: 0  Skipped: 0  Warnings: 198256
SELECT * FROM CSVImport;
| NULL             | NULL        | NULL           | NULL | NULL               | 
...

整个表被NULL填充。

我认为问题在于文本简介包含多行，MySQL解析文件时就好像每个新行对应一个数据库行一样。我可以毫无问题地将文件加载到OpenOffice中。

csv文件包含2593行和570条记录。第一行包含列名。我认为它是用逗号分隔的，文本显然是用双引号分隔的。

更新:

如果有疑问，请阅读手册:http://dev.mysql.com/doc/refman/5.0/en/load-data.html

我在LOAD DATA语句中添加了一些OpenOffice智能推断的信息，现在它加载了正确数量的记录:

LOAD DATA INFILE "/home/paul/clientdata.csv"
INTO TABLE CSVImport
COLUMNS TERMINATED BY ','
OPTIONALLY ENCLOSED BY '"'
ESCAPED BY '"'
LINES TERMINATED BY '\n'
IGNORE 1 LINES;

但是仍然有很多完全为空的记录，没有一个数据被加载似乎在正确的地方。

当前回答

另一个解决方案是使用csvkit套件中的csvsql工具。

使用的例子:

csvsql --db mysql://$user:$password@localhost/$database --insert --tables $tablename  $file

该工具可以自动推断数据类型(默认行为)，创建表并将数据插入到创建的表中。——override选项可以用来删除已经存在的表。——insert选项——从文件中填充表。

安装套件

pip install csvkit

前提条件:python-dev, libmysqlclient-dev, MySQL-python

apt-get install python-dev libmysqlclient-dev
pip install MySQL-python

2018-06-21 14:15:20

其他回答

另一个解决方案是使用csvkit套件中的csvsql工具。

使用的例子:

csvsql --db mysql://$user:$password@localhost/$database --insert --tables $tablename  $file

安装套件

pip install csvkit

前提条件:python-dev, libmysqlclient-dev, MySQL-python

apt-get install python-dev libmysqlclient-dev
pip install MySQL-python

2018-06-21 14:15:20

最简单的方法，我已经导入200+行是以下命令在phpmyadmin sql窗口

我有一个简单的国家表，有两列 CountryId, CountryName

这里是.csv数据

下面是命令:

LOAD DATA INFILE 'c:/country.csv' 
INTO TABLE country 
FIELDS TERMINATED BY ',' 
ENCLOSED BY '"'
LINES TERMINATED BY '\n'
IGNORE 1 ROWS

记住一件事，永远不要出现在第二列，否则导入将停止

2014-06-11 18:37:03

我使用mysql工作台来做同样的工作。

创建新模式打开新创建的模式右键点击“表格”，选择“表格数据导入向导” 给出CSV文件路径和表名，最后配置列类型，因为向导会根据它们的值设置默认列类型。

注意:查看mysql工作台的日志文件，使用"tail -f [mysqlworkbenchpath]/log/wb*.log"

2019-03-01 03:40:25

如何将csv文件导入sql表

文件示例:Overseas_trade_index data CSV文件

步骤:

Need to create table for overseas_trade_index. Need to create columns related to csv file. SQL Query: ( id int not null primary key auto_increment, series_reference varchar (60), period varchar (60), data_value decimal(60,0), status varchar (60), units varchar (60), magnitude int(60), subject text(60), group text(60), series_title_1 varchar (60), series_title_2 varchar (60), series_title_3 varchar (60), series_title_4 varchar (60), series_title_5 varchar (60), ); Need to connect mysql database in terminal. =>show databases; =>use database; =>show tables; Please enter this command to import the csv data to mysql tables. load data infile '/home/desktop/Documents/overseas.csv' into table trade_index fields terminated by ',' lines terminated by '\n' (series_reference,period,data_value,status,units,magnitude,subject,series_title1,series_title_2,series_title_3,series_title_4,series_title_5); Find this overseas trade index data on sqldatabase: select * from trade_index;

2019-05-27 12:08:38

以下是excel文件截图示例:

另存为并选择.csv。

如果您使用notepad++或任何其他记事本打开，您将会看到如下所示的.csv数据屏幕截图。

确保在.csv中删除标题和列对齐，就像在mysql表中一样。将folder_name替换为文件夹名称

加载数据本地文件 “D: / folder_name / myfilename.csv” 进入表格邮件以'，'结尾的字段 (fname,lname,email, phone);

如果大数据，你可以拿着咖啡装!

这就是你所需要的。

2017-03-31 11:01:25

如何将CSV文件导入MySQL表?

推荐文章

最新文章

标签