首页 > 编程语言 > 详细

python有关csv文件的记录

时间:2020-07-13 18:27:47      阅读:21      评论:0      收藏:0      [点我收藏+]

标签:重复项   进出   style   异常   出现   进制   

1、合并所有测试集和训练集的文件:

使用cmd到所在盘下,输入copy *.CSV all_***.csv即可

2、单独提取异常数据列作为csv文件:

import csv
import codecs
#coding:utf-8
with open("G:\\data_release\\train1.0\\all_train.csv","rt",encoding="utf-8")as f:
reader=csv.DictReader(f)
column=[row[‘triggername‘] for row in reader]
file_name="G:\\data_release\\train1.0\\triggername.csv"
file_csv = codecs.open(file_name,‘w+‘,‘utf-8‘)
writer = csv.writer(file_csv, delimiter=‘ ‘, quotechar=‘ ‘, quoting=csv.QUOTE_MINIMAL)
for data in column:
  writer.writerow(data)

虽然可以写入,但是出现乱码原因应该为csv的BOM没有更改

解决方法:将encoding=‘utf8‘改为encoding=‘gb18030‘

但是打开文件发现并不是所有内容都在第一列,有一些出现第二列,原因是一句话里面出现了逗号

解决方法:遍历列表将逗号改为空格

i=0
while i < len(column):
column[i].replace(","," ")
i+=1

不知道怎么的不适合我用的csv文件,还在继续检查中

3、删除一些字符,如果知道字符的位置可以在列表的基础上进行操作

去除首部空格 line=line.lstrip()

4、导入一个csv文件的时候   data = pd.read_csv(‘G:\pytorch\data1.csv‘,encoding=‘utf-8‘)

报错的内容是这样的:

UnicodeDecodeError: ‘utf-8‘ codec can‘t decode byte 0xc9 in position 0: invalid continuation byte 

修改至data = pd.read_csv(‘F:\data1.csv‘, encoding=‘unicode_escape‘,header=None,sep = ‘\t‘,error_bad_lines=False)也没有用

删除整行重复项:

from more_itertools import unique_everseen
with open(‘F:\data1.csv‘,‘r‘) as f, open(‘F:\data2.csv‘,‘w‘) as out_file:
        out_file.writelines(unique_everseen(f))

5、unexpected index是代码的缩进出现问题

6、文本文件用rt,二进制文件用rb打开 

with open("fer2013.csv", "rt", encoding="utf-8") as vsvfile:
     reader = csv.reader(vsvfile)
     rows = [row for row in reader]
           print(rows)

python有关csv文件的记录

标签:重复项   进出   style   异常   出现   进制   

原文:https://www.cnblogs.com/0211ji/p/13211412.html

(0)
(0)
   
举报
评论 一句话评论(0
© 2014 bubuko.com 版权所有 鲁ICP备09046678号-4
打开技术之扣,分享程序人生!
             

鲁公网安备 37021202000002号