在python pandas中是否有办法像excel中那样按位置(而不是按分隔符)进行 "文本到列"?

问题描述 投票:0回答:1

我使用的是来自州务卿的投票历史数据,然而他们给我的.txt文件是700万行,其中每行是一个27个字符的字符串。前3个字符是一个县的代码。接下来的8个字符是注册ID,接下来的8个字符是投票日期,等等。我不能在excel中做文字转列,因为文件太大。有没有办法在python pandas中把这个文件分成几列?

例子

目前我有。

0010000413707312012026R

0010000413708212012027R

0010000413711062012029

0010004535307312012026D

我想有一些列。

001 00004137 07312012 026 R

001 00004137 08212012 027 R

001 00004137 11062012 029

001 00045353 07312012 026 D

每隔一个空格就有一个新的列。有什么建议吗?谢谢。

python pandas data-mining
1个回答
0
投票

试试这个:我想你没有阅读表格的问题。txt 文件,简化后的情况是这样的。

a=['0010000413707312012026R','0010000413708212012027R','0010000413711062012029','0010004535307312012026D']
area=[]
date=[]
e1=[]
e2=[]
e3=[]
#001 00004137 07312012 026 R
for i in range (0,len(a)):
    area.append(a[i][0:3])
    date.append(a[i][3:11])
    e1.append(a[i][11:19])
    e2.append(a[i][19:22])
    e3.append(a[i][22:23])


all_list = pd.DataFrame(
    {'area': area,
     'date': date,
     'e1': e1,
     'e2': e2,
     'e3': e3   
    })
print(all_list )
#save as CSV file
all_list.to_csv('all.csv')

0
投票

由于文件太大,最好读取并保存到另一个文件中,而不是在内存中读取整个文件。

with open('temp.csv') as f:
    for line in f:
        code = line[0:3]
        registration = line[3:11]
        date = line[11:19]
        second_code = line[19:22]
        letter = line[22:]
        with open('modified.csv', 'a') as f2:
            f2.write(
                ' '.join([code, registration, date, second_code, letter]))

你也可以从txt文件中读取内容,然后使用 extract 来划分数据框的列

df = pd.read_csv('temp.csv', header=None)
df

#       0
# 0 0010000413707312012026R
# 1 0010000413708212012027R
# 2 0010000413711062012029
# 3 0010004535307312012026D

df = df[df.columns[0]].str.extract('(.{3})(.{8})(.{8})(.{3})(.*)')
df
#   0   1           2           3   4
# 0 001 00004137    07312012    026 R
# 1 001 00004137    08212012    027 R
# 2 001 00004137    11062012    029 
# 3 001 00045353    07312012    026 D

0
投票

最简单的我能做的。

import pandas as pd

sample_lines = ['0010000413707312012026R','0010000413708212012027R','0010000413711062012029','0010004535307312012026D]']

COLUMN_NAMES = ['A','B','C','D','E']
df = pd.DataFrame(columns=COLUMN_NAMES)
for line in sample_lines:
    row = [line[0:3], line[3:11], line[11:19], line[19:22], line[22:23]]
    df.loc[len(df)] = row

print (df)

输出:

     A         B         C    D  E
0  001  00004137  07312012  026  R
1  001  00004137  08212012  027  R
2  001  00004137  11062012  029   
3  001  00045353  07312012  026  D
© www.soinside.com 2019 - 2024. All rights reserved.