ChatGPT解决这个技术问题 Extra ChatGPT

如何将文件逐行读入列表?

这个问题的答案是社区的努力。编辑现有答案以改进这篇文章。它目前不接受新的答案或交互。

如何在 Python 中读取文件的每一行并将每一行作为一个元素存储在列表中?

我想逐行读取文件并将每一行附加到列表的末尾。


P
Pedro Lobito

此代码会将整个文件读入内存并从每行末尾删除所有空白字符(换行符和空格):

with open(filename) as file:
    lines = file.readlines()
    lines = [line.rstrip() for line in lines]

如果您正在处理一个大文件,那么您应该逐行读取和处理它:

with open(filename) as file:
    for line in file:
        print(line.rstrip())

在 Python 3.8 及更高版本中,您可以使用带有 walrus operator 的 while 循环,如下所示:

with open(filename) as file:
    while (line := file.readline().rstrip()):
        print(line)

根据您计划对文件执行的操作及其编码方式,您可能还需要手动设置 access mode 和字符编码:

with open(filename, 'r', encoding='UTF-8') as file:
    while (line := file.readline().rstrip()):
        print(line)

我使用提到的程序here检查了答案中给出的不同方式的内存配置文件。正如@DevShark here 所建议的,当从文件中读取每一行并进行处理时,内存使用情况要好得多。如果内存受限或文件很大,则将所有行保存在集合对象中不是一个好主意。两种方法的执行时间相似。
我认为 readlines() 已被弃用。
@Timo 不是。请参阅文档:io.IOBase.readlines()。为什么你认为它是?
我认为海象版本会停在空行上
那个 := 运算符是什么?!
P
Pedro Lobito

请参阅Input and Ouput

with open('filename') as f:
    lines = f.readlines()

或剥离换行符:

with open('filename') as f:
    lines = [line.rstrip() for line in f]

更好的是使用 f.read().splitlines(),它确实删除了换行符
带有 for line in open(filename) 的第二个版本安全吗?也就是文件会自动关闭吗?
最好一次读取一行文件,而不是一次将整个文件读入内存。这样做不适用于大型输入文件。请参阅以下罗伯特的回答。
lines = [x.rstrip('\n') for x in open('data\hsf.txt','r')]如果我这样写,我怎样才能在阅读后关闭文件?
是的,就其他人在这里提出的观点而言,虽然在没有上下文管理器的情况下使用 open 不是“最佳实践”(或其他有保证的方式来关闭它),但这并不是其中一种情况——当对象有不再引用它,它将被垃圾收集并关闭文件,当列表理解完成处理时,无论是否出错,这都应该立即发生。
A
AMC

这比必要的更明确,但可以满足您的要求。

with open("file.txt") as file_in:
    lines = []
    for line in file_in:
        lines.append(line)

我更喜欢这个答案,因为它不需要将整个文件加载到内存中(在这种情况下,它仍然附加到 array,但可能还有其他情况)。当然,对于大文件,这种方法可能会缓解问题。
追加到数组很慢。我想不出这是最佳解决方案的用例。
注意:此解决方案不会删除换行符。
该解决方案确实将整个文件加载到内存中。我不知道为什么人们认为它没有。
@andrebrait它可以选择将整个文件加载到行[]中,但可以逐行加载。
M
Mark Amery

这将从文件中产生一个“数组”行。

lines = tuple(open(filename, 'r'))

open 返回一个可以迭代的文件。当您遍历文件时,您会从该文件中获取行。 tuple 可以获取一个迭代器并从您给它的迭代器中为您实例化一个元组实例。 lines 是从文件的行创建的元组。


@MarshallFarrier 改用 lines = open(filename).read().split('\n')
它会关闭文件吗?
@Vanuan 由于该行运行后没有对该文件的剩余引用,因此析构函数应自动关闭该文件。
@NoctisSkytower 我发现 lines = open(filename).read().splitlines() 更干净一些,而且我相信它也能更好地处理 DOS 行尾。
@mklement0 假设文件有 1000 行,list 占用的空间比 tuple 多 13.22%。结果来自 from sys import getsizeof as g; i = [None] * 1000; round((g(list(i)) / g(tuple(i)) - 1) * 100, 2)。创建 tuple 比创建 list 花费的时间大约多 4.17%(标准差为 0.16%)。结果来自运行 from timeit import timeit as t; round((t('tuple(i)', 'i = [None] * 1000') / t('list(i)', 'i = [None] * 1000') - 1) * 100, 2) 30 次。当对可变性的需求未知时,我的解决方案更倾向于空间而不是速度。
P
Pedro Lobito

根据 Python 的 Methods of File Objects,将文本文件转换为 list 的最简单方法是:

with open('file.txt') as f:
    my_list = list(f)
    # my_list = [x.rstrip() for x in f] # remove line breaks

演示

如果您只需要遍历文本文件行,您可以使用:

with open('file.txt') as f:
    for line in f:
       ...

老答案:

使用 withreadlines()

with open('file.txt') as f:
    lines = f.readlines()

如果您不关心关闭文件,则此单行代码将起作用:

lines = open('file.txt').readlines()

传统方式:

f = open('file.txt') # Open file on read mode
lines = f.read().splitlines() # List with stripped line-breaks
f.close() # Close file

第一个示例 # my_list = [x.rstrip() for x in f] # remove line breaks 中的注释行应改为 # my_list = [x.rstrip() for x in my_list] # remove line breaks
@oneturkmen 不,他是对的。他正在遍历文件中的行。如果该行位于“with”子句之后,您将是正确的
E
Eneko Alonso

如果您希望包含 \n

with open(fname) as f:
    content = f.readlines()

如果您不希望包含 \n

with open(fname) as f:
    content = f.read().splitlines()

太好了,它在每行之间包含空字符串。 '1\n2\n3\n' => [ '1', '', '2', '', '3', '' ]
@Joke您一定做错了什么(无意冒犯)。使用 s = '1\n2\n3\n's.splitlines() 返回 ['1', '2', '3']。也许您的输入实际上包含空行? s = '1\n\n2\n\n3\n\n'
D
DevShark

正如建议的那样,您可以简单地执行以下操作:

with open('/your/path/file') as f:
    my_lines = f.readlines()

请注意,这种方法有两个缺点:

1)您将所有行存储在内存中。在一般情况下,这是一个非常糟糕的主意。该文件可能非常大,您可能会耗尽内存。就算不大,也只是浪费内存而已。

2)这不允许在您阅读它们时处理每一行。因此,如果您在此之后处理您的行,则效率不高(需要两次而不是一次)。

对于一般情况,更好的方法如下:

with open('/your/path/file') as f:
    for line in f:
        process(line)

您可以以任何方式定义您的流程功能。例如:

def process(line):
    if 'save the world' in line.lower():
         superman.save_the_world()

Superman 类的实现留给您作为练习)。

这适用于任何文件大小,您只需 1 次即可完成文件。这通常是通用解析器的工作方式。


这正是我所需要的——感谢您解释缺点。作为 Python 的初学者,理解为什么解决方案就是解决方案真是太棒了。干杯!
多想想科里。您是否真的希望您的计算机读取每一行,而不对这些行做任何事情?当然,您可以意识到您总是需要以一种或另一种方式处理它们。
你总是需要对线条做一些事情。它可以像打印线条或计算线条一样简单。让您的进程读取内存中的行没有任何价值,但不对其进行任何操作。
你总是需要和他们做点什么。我认为您要表达的观点是您可能希望一次将一个函数应用于所有这些函数,而不是一个一个地应用。有时确实是这样。但是从内存的角度来看这样做是非常低效的,并且如果文件的占用空间大于您的 Ram,则会阻止您读取文件。这就是为什么通常通用解析器以我描述的方式运行的原因。
@PierreOcinom 是正确的。鉴于文件以只读模式打开,您无法使用上面的代码修改原始文件。要打开文件进行读写,请使用 open('file_path', 'r+')
P
PythonProgrammi

具有文本文件内容:

line 1
line 2
line 3

我们可以在上面的txt同目录下使用这个Python脚本

>>> with open("myfile.txt", encoding="utf-8") as file:
...     x = [l.rstrip("\n") for l in file]
>>> x
['line 1','line 2','line 3']

使用附加:

x = []
with open("myfile.txt") as file:
    for l in file:
        x.append(l.strip())

或者:

>>> x = open("myfile.txt").read().splitlines()
>>> x
['line 1', 'line 2', 'line 3']

或者:

>>> x = open("myfile.txt").readlines()
>>> x
['linea 1\n', 'line 2\n', 'line 3\n']

或者:

def print_output(lines_in_textfile):
    print("lines_in_textfile =", lines_in_textfile)

y = [x.rstrip() for x in open("001.txt")]
print_output(y)

with open('001.txt', 'r', encoding='utf-8') as file:
    file = file.read().splitlines()
    print_output(file)

with open('001.txt', 'r', encoding='utf-8') as file:
    file = [x.rstrip("\n") for x in file]
    print_output(file)

输出:

lines_in_textfile = ['line 1', 'line 2', 'line 3']
lines_in_textfile = ['line 1', 'line 2', 'line 3']
lines_in_textfile = ['line 1', 'line 2', 'line 3']

encoding="utf-8" 是必需的吗?
read().splitlines() 由 Python 提供给您:它就是 readlines()(它可能更快,因为它浪费更少)。
@EricOLebigot 从显示的示例中,看起来 read().splitlines()readlines() 不会产生相同的输出。你确定它们是等价的吗?
如果您只使用 readlines,则需要使用 strip 方法去除文本中的 \n,因此我使用列表推导更改了最后一个示例,以便在两种情况下都具有相同的输出。因此,如果您使用 read().readlines() 您将拥有一个“干净”的项目,其中包含行且没有换行符,否则,您必须执行您在上面的代码中看到的内容。
的确。请注意,在上面的代码中,所有 strip() 都应为 rstrip("\n"),否则将删除一行周围的空格。此外,在列表推导中执行 readlines() 没有任何意义:简单地迭代文件会更好,因为它不会通过创建行的中间列表来浪费时间和内存。
M
MSeifert

要将文件读入列表,您需要做三件事:

打开文件

读取文件

将内容存储为列表

幸运的是,Python 使这些事情变得非常容易,因此将文件读入列表的最短方法是:

lst = list(open(filename))

但是,我将添加更多解释。

打开文件

我假设您想打开一个特定的文件并且您不直接处理文件句柄(或类似文件的句柄)。在 Python 中打开文件最常用的函数是 open,在 Python 2.7 中它需要一个强制参数和两个可选参数:

文件名

模式

缓冲(我将在这个答案中忽略这个论点)

文件名应该是表示文件路径的字符串。例如:

open('afile')   # opens the file named afile in the current working directory
open('adir/afile')            # relative path (relative to the current working directory)
open('C:/users/aname/afile')  # absolute path (windows)
open('/usr/local/afile')      # absolute path (linux)

请注意,需要指定文件扩展名。这对于 Windows 用户尤其重要,因为在资源管理器中查看时,.txt.doc 等文件扩展名是隐藏的默认

第二个参数是 mode,默认为 r,表示“只读”。这正是您所需要的。

但是如果你真的想创建一个文件和/或写入一个文件,你需要一个不同的参数。 There is an excellent answer if you want an overview

要读取文件,您可以省略 mode 或显式传递它:

open(filename)
open(filename, 'r')

两者都将以只读模式打开文件。如果您想在 Windows 上读取二进制文件,您需要使用模式 rb

open(filename, 'rb')

在其他平台上,'b'(二进制模式)被简单地忽略。

现在我已经展示了如何open 文件,让我们谈谈您总是需要再次close 文件的事实。否则,它将保持文件的打开文件句柄,直到进程退出(或 Python 垃圾文件句柄)。

虽然您可以使用:

f = open(filename)
# ... do stuff with f
f.close()

openclose 之间的某些东西引发异常时,这将无法关闭文件。您可以通过使用 tryfinally 来避免这种情况:

f = open(filename)
# nothing in between!
try:
    # do stuff with f
finally:
    f.close()

然而,Python 提供了具有更漂亮语法的上下文管理器(但对于 open,它几乎与上面的 tryfinally 相同):

with open(filename) as f:
    # do stuff with f
# The file is always closed after the with-scope ends.

最后一种方法是在 Python 中打开文件的推荐方法!

读取文件

好的,您已经打开了文件,现在如何读取它?

open 函数返回一个 file 对象,它支持 Python 的迭代协议。每次迭代都会给你一行:

with open(filename) as f:
    for line in f:
        print(line)

这将打印文件的每一行。但请注意,每行末尾都会包含一个换行符 \n(您可能需要检查您的 Python 是否使用 universal newlines support 构建 - 否则您也可以在 Windows 上使用 \r\n 或在 Mac 上使用 \r 作为换行符)。如果您不希望这样,您可以简单地删除最后一个字符(或 Windows 上的最后两个字符):

with open(filename) as f:
    for line in f:
        print(line[:-1])

但最后一行不一定有一个尾随换行符,所以不应该使用它。可以检查它是否以尾随换行符结尾,如果是,则将其删除:

with open(filename) as f:
    for line in f:
        if line.endswith('\n'):
            line = line[:-1]
        print(line)

但是您可以简单地从字符串的 结尾 中删除所有空格(包括 \n 字符),这也会删除所有其他 尾随 空格,因此您必须小心如果这些很重要:

with open(filename) as f:
    for line in f:
        print(f.rstrip())

但是,如果行以 \r\n(Windows“换行符”)结尾,那么 .rstrip() 也会处理 \r

将内容存储为列表

现在您知道如何打开文件并阅读它,是时候将内容存储在列表中了。最简单的选择是使用 list 函数:

with open(filename) as f:
    lst = list(f)

如果您想去除尾随换行符,您可以使用列表推导:

with open(filename) as f:
    lst = [line.rstrip() for line in f]

或者更简单:file 对象的 .readlines() 方法默认返回 list 行:

with open(filename) as f:
    lst = f.readlines()

这还将包括尾随换行符,如果您不想要它们,我会推荐 [line.rstrip() for line in f] 方法,因为它避免了在内存中保留两个包含所有行的列表。

还有一个额外的选项可以获得所需的输出,但它相当“次优”:read 将完整的文件放在一个字符串中,然后在换行符上拆分:

with open(filename) as f:
    lst = f.read().split('\n')

或者:

with open(filename) as f:
    lst = f.read().splitlines()

这些会自动处理尾随换行符,因为不包含 split 字符。但是它们并不理想,因为您将文件保存为字符串和内存中的行列表!

概括

打开文件时使用 with open(...) as f ,因为您不需要自己关闭文件,即使发生异常也会关闭文件。

文件对象支持迭代协议,因此逐行读取文件就像 the_file_object: 中的行一样简单。

始终浏览可用函数/类的文档。大多数时候,任务有一个完美的匹配,或者至少有一两个好的匹配。在这种情况下,显而易见的选择是 readlines() 但如果您想在将这些行存储到列表中之前对其进行处理,我建议您使用简单的列表理解。


最后一种方法是在 Python 中打开文件的推荐方法!那为什么是最后呢?绝大多数人在继续之前不会只看一下答案的前几行吗?
@AMC我写答案时并没有考虑太多。你认为我应该把它放在答案的顶部吗?
这可能是最好的,是的。我还刚刚注意到您提到了 Python 2,因此也可以对其进行更新。
啊这个问题最初被标记为python-2.x。更普遍地更新它可能是有意义的。我会看看我下次会不会来。感谢您的建议。非常感激!
J
Johnny

将文件的行读入列表的干净和 Pythonic 方式

首先,您应该专注于以高效且 Python 的方式打开文件并读取其内容。这是我个人不喜欢的方式的一个例子:

infile = open('my_file.txt', 'r')  # Open the file for reading.

data = infile.read()  # Read the contents of the file.

infile.close()  # Close the file since we're done using it.

相反,我更喜欢以下打开文件以进行读取和写入的方法,因为它非常干净,并且在完成使用后不需要关闭文件的额外步骤。在下面的语句中,我们打开文件进行读取,并将其分配给变量“infile”。一旦该语句中的代码完成运行,该文件将自动关闭。

# Open the file for reading.
with open('my_file.txt', 'r') as infile:

    data = infile.read()  # Read the contents of the file into memory.

现在我们需要专注于将这些数据放入 Python 列表中,因为它们是可迭代的、高效的和灵活的。在您的情况下,所需的目标是将文本文件的每一行放入一个单独的元素中。为此,我们将使用 splitlines() 方法,如下所示:

# Return a list of the lines, breaking at line boundaries.
my_list = data.splitlines()

最终产品:

# Open the file for reading.
with open('my_file.txt', 'r') as infile:

    data = infile.read()  # Read the contents of the file into memory.

# Return a list of the lines, breaking at line boundaries.
my_list = data.splitlines()

测试我们的代码:

文本文件的内容:

     A fost odatã ca-n povesti,
     A fost ca niciodatã,
     Din rude mãri împãrãtesti,
     O prea frumoasã fatã.

出于测试目的打印语句:

    print my_list  # Print the list.

    # Print each line in the list.
    for line in my_list:
        print line

    # Print the fourth element in this list.
    print my_list[3]

输出(由于 unicode 字符而看起来不同):

     ['A fost odat\xc3\xa3 ca-n povesti,', 'A fost ca niciodat\xc3\xa3,',
     'Din rude m\xc3\xa3ri \xc3\xaemp\xc3\xa3r\xc3\xa3testi,', 'O prea
     frumoas\xc3\xa3 fat\xc3\xa3.']

     A fost odatã ca-n povesti, A fost ca niciodatã, Din rude mãri
     împãrãtesti, O prea frumoasã fatã.

     O prea frumoasã fatã.

m
martineau

在 Python 3.4 中引入的 pathlib 有一个非常方便的方法来从文件中读取文本,如下所示:

from pathlib import Path
p = Path('my_text_file')
lines = p.read_text().splitlines()

splitlines 调用将其从包含文件全部内容的字符串转换为文件中的行列表)。

pathlib 有很多方便的地方。 read_text 简洁明了,您不必担心打开和关闭文件。如果您需要对文件做的所有事情都是一口气读完,那么这是一个不错的选择。


u
user1833244

这是对文件使用列表推导的另一种选择;

lines = [line.rstrip() for line in open('file.txt')]

这应该是更有效的方式,因为大部分工作都是在 Python 解释器中完成的。


rstrip() 可能会去除 all 尾随空格,而不仅仅是 \n;使用 .rstrip('\n')
这也不能保证在读取所有 Python 实现后该文件将被关闭(尽管在 CPython 中,主要的 Python 实现会这样)。
这应该是更有效的方式,因为大部分工作都是在 Python 解释器中完成的。这意味着什么?
G
Gavriel Cohen
f = open("your_file.txt",'r')
out = f.readlines() # will append in the list out

现在变量 out 是您想要的列表(数组)。你可以这样做:

for line in out:
    print (line)

或者:

for line in f:
    print (line)

你会得到同样的结果。


P
Peter Mortensen

另一个选项是 numpy.genfromtxt,例如:

import numpy as np
data = np.genfromtxt("yourfile.dat",delimiter="\n")

这将使 data 成为一个 NumPy 数组,其中的行数与文件中的行数一样多。


G
Gavriel Cohen

使用 Python 2 和 Python 3 读写文本文件;它适用于 Unicode

#!/usr/bin/env python3
# -*- coding: utf-8 -*-

# Define data
lines = ['     A first string  ',
         'A Unicode sample: €',
         'German: äöüß']

# Write text file
with open('file.txt', 'w') as fp:
    fp.write('\n'.join(lines))

# Read text file
with open('file.txt', 'r') as fp:
    read_lines = fp.readlines()
    read_lines = [line.rstrip('\n') for line in read_lines]

print(lines == read_lines)

注意事项:

with 是所谓的上下文管理器。它确保打开的文件再次关闭。

这里所有简单地制作 .strip() 或 .rstrip() 的解决方案都将无法重现这些线条,因为它们也会去除空白。

常见文件结尾

.txt

更高级的文件写入/读取

CSV:超级简单的格式(读写)

JSON:非常适合编写人类可读的数据;非常常用(读写)

YAML:YAML 是 JSON 的超集,但更易于阅读(读写,JSON 和 YAML 的比较)

pickle:一种 Python 序列化格式(读写)

MessagePack(Python 包):更紧凑的表示(读写)

HDF5(Python 包):适用于矩阵(读写)

XML: 也存在 *sigh* (读 & 写)

对于您的应用程序,以下内容可能很重要:

其他编程语言的支持

读/写性能

紧凑性(文件大小)

另请参阅:Comparison of data serialization formats

如果您正在寻找一种制作配置文件的方法,您可能需要阅读我的短文Configuration files in Python


o
oliland

如果您想从命令行或标准输入读取文件,还可以使用 fileinput 模块:

# reader.py
import fileinput

content = []
for line in fileinput.input():
    content.append(line.strip())

fileinput.close()

像这样将文件传递给它:

$ python reader.py textfile.txt 

在此处阅读更多信息:http://docs.python.org/2/library/fileinput.html


J
Jean-Francois T.

最简单的方法

一个简单的方法是:

将整个文件作为字符串读取 逐行拆分字符串

在一行中,这将给出:

lines = open('C:/path/file.txt').read().splitlines()

但是,这是一种非常低效的方式,因为这会将 2 个版本的内容存储在内存中(对于小文件来说可能不是大问题,但仍然如此)。 [感谢马克艾默里]。

有2个更简单的方法:

使用文件作为迭代器

lines = list(open('C:/path/file.txt'))
# ... or if you want to have a list without EOL characters
lines = [l.rstrip() for l in open('C:/path/file.txt')]

如果您使用的是 Python 3.4 或更高版本,最好使用 pathlib 为您的文件创建一个路径,您可以将其用于程序中的其他操作:

from pathlib import Path
file_path = Path("C:/path/file.txt") 
lines = file_path.read_text().split_lines()
# ... or ... 
lines = [l.rstrip() for l in file_path.open()]

这是一个不好的方法。一方面,调用 .read().splitlines() 并不比调用 .readlines() 更“简单”。另一方面,它的内存效率低;您无需同时在内存中存储两个版本的文件内容(.read() 返回的单个字符串和 splitlines() 返回的字符串列表)。
@MarkAmery 是的。感谢您强调这一点。我已经更新了我的答案。
P
PythonProgrammi

只需使用 splitlines() 函数。这是一个例子。

inp = "file.txt"
data = open(inp)
dat = data.read()
lst = dat.splitlines()
print lst
# print(lst) # for python 3

在输出中,您将获得行列表。


与使用 .readlines() 相比,内存效率低。这会将文件内容的两个副本一次放入内存中(一个作为单个大字符串,一个作为行列表)。
但是 data.read().splitlines() 更容易阅读,与阅读代码的难易程度相比,内存并不总是一个问题。
J
Jonathan Leffler

如果你想面对一个非常大/巨大的文件并且想要更快地读取(想象你正在参加 Topcoder/Hackerrank 编码比赛),你可能会一次将一大块行读入内存缓冲区,而不是只需在文件级别逐行迭代。

buffersize = 2**16
with open(path) as f: 
    while True:
        lines_buffer = f.readlines(buffersize)
        if not lines_buffer:
            break
        for line in lines_buffer:
            process(line)

流程(线)做什么?我得到一个错误,没有定义这样的变量。我猜有些东西需要导入,我尝试导入 multiprocessing.Process,但我猜不是这样。你能详细说明一下吗?谢谢
process(line) 是您需要实现以处理数据的函数。例如,如果您使用 print(line) 而不是该行,它将打印 lines_buffer 中的每一行。
f.readlines(buffersize) 返回一个不可变的缓冲区。如果你想直接读入你的缓冲区,你需要使用 readinto() 函数。我会快很多。
C
Community

具有一些额外好处的最简单方法是:

lines = list(open('filename'))

或者

lines = tuple(open('filename'))

或者

lines = set(open('filename'))

在使用 set 的情况下,我们必须记住我们没有保留行顺序并删除了重复的行。

下面我添加了来自@MarkAmery 的重要补充:

由于您没有在文件对象上调用 .close 也没有使用 with 语句,因此在某些 Python 实现中,文件可能不会在读取后关闭,并且您的进程将泄漏打开的文件句柄。在 CPython(大多数人使用的普通 Python 实现)中,这不是问题,因为文件对象将立即被垃圾收集,这将关闭文件,但通常认为最好的做法是执行以下操作:

with open('filename') as f: lines = list(f) 

以确保无论您使用什么 Python 实现,文件都会被关闭。


由于您没有在文件对象上调用 .close,也没有使用 with 语句,因此在某些 Python 实现中,文件可能不会在读取后关闭,并且您的进程会泄漏打开的文件句柄。在 CPython(大多数人使用的普通 Python 实现)中,这不是问题,因为文件对象将立即被垃圾收集,这将关闭文件,但通常认为最好的做法是执行 with open('filename') as f: lines = list(f) 之类的操作以确保无论您使用什么 Python 实现,文件都会被关闭。
感谢您的精彩评论@MarkAmery!对此,我真的非常感激。
@simhumileco 为什么最后有最好的(正确的)解决方案?
@AMC 因为首先,我想展示最简单的方法和推理的一致性。
此外,我希望我的回答简短易读。
j
jeanggi90

如果文档中还有空行,我想在内容中读取并通过 filter 传递以防止出现空字符串元素

with open(myFile, "r") as f:
    excludeFileContent = list(filter(None, f.read().splitlines()))

这是unpythonic,要小心。
P
Peter Mortensen

用这个:

import pandas as pd
data = pd.read_csv(filename) # You can also add parameters such as header, sep, etc.
array = data.values

data 是一种数据框类型,使用值来获取 ndarray。您还可以使用 array.tolist() 获取列表。


pandas.read_csv() 用于读取 CSV 数据,这里怎么合适?
R
Russia Must Remove Putin

大纲和总结

使用 filename,处理来自 Path(filename) 对象的文件,或直接使用 open(filename) as f,执行以下操作之一:

列表(文件输入。输入(文件名))

使用 path.open() as f,调用 f.readlines()

清单(f)

path.read_text().splitlines()

path.read_text().splitlines(keepends=True)

遍历 fileinput.input 或 f 和 list.append 每一行一次

将 f 传递给绑定的 list.extend 方法

在列表理解中使用 f

我在下面解释每个用例。

在 Python 中,如何逐行读取文件?

这是一个很好的问题。首先,让我们创建一些示例数据:

from pathlib import Path
Path('filename').write_text('foo\nbar\nbaz')

文件对象是惰性迭代器,因此只需对其进行迭代。

filename = 'filename'
with open(filename) as f:
    for line in f:
        line # do something with the line

或者,如果您有多个文件,请使用 fileinput.input,另一个惰性迭代器。只有一个文件:

import fileinput

for line in fileinput.input(filename): 
    line # process the line

或者对于多个文件,将文件名列表传递给它:

for line in fileinput.input([filename]*2): 
    line # process the line

同样,上面的 ffileinput.input 都是 /return 惰性迭代器。您只能使用一次迭代器,因此为了提供功能代码同时避免冗长,我将使用稍微简洁的 fileinput.input(filename) where apropos from here。

在 Python 中,如何将文件逐行读取到列表中?

啊,但你出于某种原因想要它在列表中?如果可能的话,我会避免这种情况。但如果您坚持...只需将 fileinput.input(filename) 的结果传递给 list

list(fileinput.input(filename))

另一个直接的答案是调用 f.readlines,它返回文件的内容(最多可选 hint 个字符,因此您可以通过这种方式将其分解为多个列表)。

您可以通过两种方式访问此文件对象。一种方法是将文件名传递给 open 内置:

filename = 'filename'

with open(filename) as f:
    f.readlines()

或使用 pathlib 模块中的新 Path 对象(我已经非常喜欢,并且将从这里开始使用):

from pathlib import Path

path = Path(filename)

with path.open() as f:
    f.readlines()

list 还将使用文件迭代器并返回一个列表 - 也是一个非常直接的方法:

with path.open() as f:
    list(f)

如果您不介意在拆分之前将整个文本作为单个字符串读入内存,则可以使用 Path 对象和 splitlines() 字符串方法将其作为单行来执行。默认情况下,splitlines 删除换行符:

path.read_text().splitlines()

如果要保留换行符,请传递 keepends=True

path.read_text().splitlines(keepends=True)

我想逐行读取文件并将每一行附加到列表的末尾。

现在要求这个有点傻,因为我们已经用几种方法轻松地展示了最终结果。但是您可能需要在制作列表时对行进行过滤或操作,所以让我们来满足这个要求。

使用 list.append 将允许您在附加之前对每一行进行过滤或操作:

line_list = []
for line in fileinput.input(filename):
    line_list.append(line)

line_list

使用 list.extend 会更直接一些,如果您有一个预先存在的列表,可能会很有用:

line_list = []
line_list.extend(fileinput.input(filename))
line_list

或者更惯用的说法,我们可以改为使用列表推导,并在需要时在其中映射和过滤:

[line for line in fileinput.input(filename)]

或者更直接,要闭环,直接传给list就可以新建一个list,不用对行进行操作:

list(fileinput.input(filename))

结论

您已经看到了许多将文件中的行放入列表的方法,但我建议您避免将大量数据具体化到列表中,而是尽可能使用 Python 的惰性迭代来处理数据。

也就是说,首选 fileinput.inputwith path.open() as f


D
Daniel

我喜欢使用以下内容。立即阅读台词。

contents = []
for line in open(filepath, 'r').readlines():
    contents.append(line.strip())

或使用列表理解:

contents = [line.strip() for line in open(filepath, 'r').readlines()]

不需要 readlines(),这甚至会导致内存损失。您可以简单地删除它,因为迭代(文本)文件会依次给出每一行。
您应该使用 with 语句打开(并隐式关闭)文件。
P
Peter Mortensen

你也可以在 NumPy 中使用 loadtxt 命令。这检查的条件比 genfromtxt 少,因此它可能更快。

import numpy
data = numpy.loadtxt(filename, delimiter="\n")

S
Siddharth Satpathy

我会尝试以下提到的方法之一。我使用的示例文件名为 dummy.txt。您可以找到文件 here。我认为该文件与代码位于同一目录中(您可以更改 fpath 以包含正确的文件名和文件夹路径。)

在下面提到的两个示例中,您想要的列表由 lst 给出。

1.> 第一种方法:

fpath = 'dummy.txt'
with open(fpath, "r") as f: lst = [line.rstrip('\n \t') for line in f]

print lst
>>>['THIS IS LINE1.', 'THIS IS LINE2.', 'THIS IS LINE3.', 'THIS IS LINE4.']

2.>第二种方法中,可以使用csv.reader Python标准库中的模块

import csv
fpath = 'dummy.txt'
with open(fpath) as csv_file:
    csv_reader = csv.reader(csv_file, delimiter='   ')
    lst = [row[0] for row in csv_reader] 

print lst
>>>['THIS IS LINE1.', 'THIS IS LINE2.', 'THIS IS LINE3.', 'THIS IS LINE4.']

您可以使用这两种方法中的任何一种。在这两种方法中,创建 lst 所用的时间几乎相等。


第二种方法的优点是什么?为什么要调用一个额外的库,它会添加边缘情况(分隔符和引号)?
delimiter=' ' 参数的用途是什么?
L
LogicalBranch

这是我用来简化文件 I/O 的 Python(3) 辅助库类:

import os

# handle files using a callback method, prevents repetition
def _FileIO__file_handler(file_path, mode, callback = lambda f: None):
  f = open(file_path, mode)
  try:
    return callback(f)
  except Exception as e:
    raise IOError("Failed to %s file" % ["write to", "read from"][mode.lower() in "r rb r+".split(" ")])
  finally:
    f.close()


class FileIO:
  # return the contents of a file
  def read(file_path, mode = "r"):
    return __file_handler(file_path, mode, lambda rf: rf.read())

  # get the lines of a file
  def lines(file_path, mode = "r", filter_fn = lambda line: len(line) > 0):
    return [line for line in FileIO.read(file_path, mode).strip().split("\n") if filter_fn(line)]

  # create or update a file (NOTE: can also be used to replace a file's original content)
  def write(file_path, new_content, mode = "w"):
    return __file_handler(file_path, mode, lambda wf: wf.write(new_content))

  # delete a file (if it exists)
  def delete(file_path):
    return os.remove() if os.path.isfile(file_path) else None

然后您将使用 FileIO.lines 函数,如下所示:

file_ext_lines = FileIO.lines("./path/to/file.ext"):
for i, line in enumerate(file_ext_lines):
  print("Line {}: {}".format(i + 1, line))

请记住,mode(默认为 "r")和 filter_fn(默认检查空行)参数是可选的。

您甚至可以删除 readwritedelete 方法而只保留 FileIO.lines,或者甚至将其变成一个名为 read_lines 的单独方法。


lines = FileIO.lines(path) 真的比 with open(path) as f: lines = f.readlines() 简单到足以证明这个助手的存在吗?每次通话可以节省 17 个字符。 (大多数时候,出于性能和内存的原因,你会想要直接循环一个文件对象,而不是把它的行读入一个列表,所以你甚至不想经常使用它!)我是通常是创建小实用程序功能的粉丝,但在我看来,这只是不必要地创建一种新方法来编写已经很短且容易使用标准库为我们提供的东西。
除了@MarkAmery 所说的,为什么要为此使用一个类?
j
jasonleonhard

命令行版本

#!/bin/python3
import os
import sys
abspath = os.path.abspath(__file__)
dname = os.path.dirname(abspath)
filename = dname + sys.argv[1]
arr = open(filename).read().split("\n") 
print(arr)

运行:

python3 somefile.py input_file_name.txt

你到底为什么要要求文本文件位于你的 python 脚本所在的同一目录中?只需 open(sys.argv[1]) 即可,无论指定相对路径还是绝对路径,它都可以工作,而且它不会关心您的脚本所在的位置。