怎么利用 Python 解决 csv 文件读写乱码问题?

2020-12-18 17:33:52 +08:00
 fanqieipnet
怎么利用 python 解决 csv 文件读写乱码问题?今天番茄加速就来说一下。

  首先,导入 3 个模块:

  # coding: utf-8

  # @author: zhenguo

  # @date: 2020-12-16

  # @describe: functions about automatic file processing

   import pandas as pd

   import os

   import chardet

   chardet 模块用于得到文件的编码格式,pandas 按照这个格式读取,然后保存为 xlsx 格式。

  获取 filename 文件的编码格式:

   def get_encoding(filename):

  """

  返回文件编码格式

  """

   with open(filename,'rb') as f:

   return chardet.detect(f.read())['encoding']

  保存为 utf-8 编码 xlsx 格式文件,支持 csv, xls, xlsx 格式的文件乱码处理。需要注意,如果读入文件为 csv 格式,保存时要使用 xlsx 格式:

   def to_utf8(filename):

  """

  保存为 to_utf-8

  """

   encoding = get_encoding(filename)

   ext = os.path.splitext(filename)

   if ext[1] =='.csv':

   if 'gb' in encoding or 'GB' in encoding:

   df = pd.read_csv(filename,engine='python',encoding='GBK')

   else:

   df = pd.read_csv(filename,engine='python',encoding='utf-8')

   df.to_excel(ext[0]+'.xlsx')

   elif ext[1]=='.xls' or ext[1] == '.xlsx':

   if 'gb' in encoding or 'GB' in encoding:

   df = pd.read_excel(filename,encoding='GBK')

   else:

   df = pd.read_excel(filename,encoding='utf-8')

   df.to_excel(filename)

   else:

   print('only support csv, xls, xlsx format')

  上面函数实现单个文件转化,下面 batch_to_utf8 实现目录 path 下所有后缀为 ext_name 文件的批量乱码转化:

   def batch_to_utf8(path,ext_name='csv'):

  """

   path 下,后缀为 ext_name 的乱码文件,批量转化为可读文件

  """

   for file in os.listdir(path):

   if os.path.splitext(file)[1]=='.'+ext_name:

   to_utf8(os.path.join(path,file))

  调用:

   if __name__ == '__main__':

   batch_to_utf8('.') # 对当前目录下的所有 csv 文件保存为 xlsx 格式,utf-8 编码的文件

  文件读写时乱码问题,经常会遇到,相信今天这篇文章里的 to_utf8,batch_to_utf8 函数会解决这个问题,你如果后面遇到,不妨直接引用这两个函数尝试下。
575 次点击
所在节点    推广
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/736858

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX