新版Pandas使用以下界面加载Excel文件:
read_excel('path_to_file.xls', 'Sheet1', index_col=None, na_values=['NA'])
但如果我不知道有哪些床单呢?
例如,我正在工作的excel文件,如下表
数据1,数据2…,数据N, foo, bar
但我不知道先验的N。
有没有办法从熊猫的excel文档中获得表的列表?
新版Pandas使用以下界面加载Excel文件:
read_excel('path_to_file.xls', 'Sheet1', index_col=None, na_values=['NA'])
但如果我不知道有哪些床单呢?
例如,我正在工作的excel文件,如下表
数据1,数据2…,数据N, foo, bar
但我不知道先验的N。
有没有办法从熊猫的excel文档中获得表的列表?
当前回答
基于@dhwanil_shah的回答,您不需要提取整个文件。zf。打开它可以直接从压缩文件中读取。
import xml.etree.ElementTree as ET
import zipfile
def xlsxSheets(f):
zf = zipfile.ZipFile(f)
f = zf.open(r'xl/workbook.xml')
l = f.readline()
l = f.readline()
root = ET.fromstring(l)
sheets=[]
for c in root.findall('{http://schemas.openxmlformats.org/spreadsheetml/2006/main}sheets/*'):
sheets.append(c.attrib['name'])
return sheets
连续的两个readline很难看,但是内容只在文本的第二行。不需要解析整个文件。
这个解决方案似乎比read_excel版本快得多,而且很可能也比完整的提取版本快得多。
其他回答
基于@dhwanil_shah的回答,您不需要提取整个文件。zf。打开它可以直接从压缩文件中读取。
import xml.etree.ElementTree as ET
import zipfile
def xlsxSheets(f):
zf = zipfile.ZipFile(f)
f = zf.open(r'xl/workbook.xml')
l = f.readline()
l = f.readline()
root = ET.fromstring(l)
sheets=[]
for c in root.findall('{http://schemas.openxmlformats.org/spreadsheetml/2006/main}sheets/*'):
sheets.append(c.attrib['name'])
return sheets
连续的两个readline很难看,但是内容只在文本的第二行。不需要解析整个文件。
这个解决方案似乎比read_excel版本快得多,而且很可能也比完整的提取版本快得多。
我尝试过xlrd、pandas、openpyxl和其他类似的库,所有这些库似乎都需要指数级的时间,因为它们读取整个文件时,文件大小会增加。上面提到的其他解决方案,他们使用“on_demand”不适合我。如果您只想最初获得表名,下面的函数适用于xlsx文件。
def get_sheet_details(file_path):
sheets = []
file_name = os.path.splitext(os.path.split(file_path)[-1])[0]
# Make a temporary directory with the file name
directory_to_extract_to = os.path.join(settings.MEDIA_ROOT, file_name)
os.mkdir(directory_to_extract_to)
# Extract the xlsx file as it is just a zip file
zip_ref = zipfile.ZipFile(file_path, 'r')
zip_ref.extractall(directory_to_extract_to)
zip_ref.close()
# Open the workbook.xml which is very light and only has meta data, get sheets from it
path_to_workbook = os.path.join(directory_to_extract_to, 'xl', 'workbook.xml')
with open(path_to_workbook, 'r') as f:
xml = f.read()
dictionary = xmltodict.parse(xml)
for sheet in dictionary['workbook']['sheets']['sheet']:
sheet_details = {
'id': sheet['@sheetId'],
'name': sheet['@name']
}
sheets.append(sheet_details)
# Delete the extracted files directory
shutil.rmtree(directory_to_extract_to)
return sheets
由于所有xlsx基本上都是压缩文件,我们提取底层xml数据并直接从工作簿中读取表名,这与库函数相比只需几分之一秒的时间。
基准测试:(在一个6mb的xlsx文件上,有4张纸) 熊猫,xlrd: 12秒 Openpyxl: 24秒 建议方法:0.4秒
因为我的要求只是读取表名,读取整个时间的不必要开销让我很困扰,所以我选择了这种方法。
从excel (xls)中检索表名的最简单方法。, xlsx)为:
tabs = pd.ExcelFile("path").sheet_names
print(tabs)
然后,要读取和存储特定工作表的数据(例如,工作表名称为“Sheet1”,“Sheet2”等),请输入“Sheet2”,例如:
data = pd.read_excel("path", "Sheet2")
print(data)
如果你:
关注业绩 在执行时不需要文件中的数据。 想要使用传统的库还是使用自己的解决方案
下面是一个~10Mb的xlsx, xlsb文件的基准测试。
xls, xlsx
from openpyxl import load_workbook
def get_sheetnames_xlsx(filepath):
wb = load_workbook(filepath, read_only=True, keep_links=False)
return wb.sheetnames
基准测试:~ 14倍的速度提升
# get_sheetnames_xlsx vs pd.read_excel
225 ms ± 6.21 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
3.25 s ± 140 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
xlsb
from pyxlsb import open_workbook
def get_sheetnames_xlsb(filepath):
with open_workbook(filepath) as wb:
return wb.sheets
基准测试:~ 56倍的速度提升
# get_sheetnames_xlsb vs pd.read_excel
96.4 ms ± 1.61 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
5.36 s ± 162 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
注:
这是一个很好的资源 http://www.python-excel.org/ XLRD从2020年起不再维持
您应该显式地将第二个参数(sheetname)指定为None。是这样的:
df = pandas.read_excel("/yourPath/FileName.xlsx", None);
"df"都是一个数据帧字典,你可以通过运行这个来验证:
df.keys()
结果是这样的:
[u'201610', u'201601', u'201701', u'201702', u'201703', u'201704', u'201705', u'201706', u'201612', u'fund', u'201603', u'201602', u'201605', u'201607', u'201606', u'201608', u'201512', u'201611', u'201604']
详情请参考熊猫文档:https://pandas.pydata.org/pandas-docs/stable/generated/pandas.read_excel.html