Python AsyncIO的loop.add_reader（）期望什么文件描述符对象？

Question

我试图了解如何在Python 3.4中使用新的AsyncIO功能，我正在努力使用event_loop.add_reader()。从limited discussions我发现它看起来像是用于从单独的进程读取标准而不是打开文件的内容。真的吗？如果是这样，似乎没有AsyncIO特定的方式来集成标准文件IO，这也是真的吗？

我一直在玩以下代码。下面的输出给出了/python3.4/selectors.py PermissionError: [Errno 1] Operation not permitted第399行的self._epoll.register(key.fd, epoll_events)异常，它由下面的add_reader()线触发

import asyncio
import urllib.parse
import sys
import pdb
import os

def fileCallback(*args):
    pdb.set_trace()

path = sys.argv[1]
loop = asyncio.get_event_loop()
#fd = os.open(path, os.O_RDONLY)
fd = open(path, 'r')
#data = fd.read()
#print(data)
#fd.close()
pdb.set_trace()
task = loop.add_reader(fd, fileCallback, fd)
loop.run_until_complete(task)
loop.close()

编辑

对于那些寻找如何使用AsyncIO一次读取多个文件的例子，我很好奇，这里有一个如何实现它的例子。秘密在于yield from asyncio.sleep(0)。这实际上暂停了当前函数，将其放回事件循环队列中，在执行所有其他就绪函数后调用。确定功能是根据它们的安排方式准备好的。

import asyncio

@asyncio.coroutine
def read_section(file, length):
    yield from asyncio.sleep(0)
    return file.read(length)

@asyncio.coroutine
def read_file(path):
    fd = open(path, 'r')
    retVal = []
    cnt = 0
    while True:
        cnt = cnt + 1
        data = yield from read_section(fd, 102400)
        print(path + ': ' + str(cnt) + ' - ' + str(len(data)))
        if len(data) == 0:
            break;
    fd.close()

paths = ["loadme.txt", "loadme also.txt"]
loop = asyncio.get_event_loop()
tasks = []
for path in paths:
    tasks.append(asyncio.async(read_file(path)))
loop.run_until_complete(asyncio.wait(tasks))
loop.close()

Answer 1

这些函数需要一个文件描述符，即操作系统使用的底层整数，而不是Python的文件对象。基于文件描述符的文件对象在fileno()方法上返回该描述符，例如：

>>> sys.stderr.fileno()
2

在Unix中，文件描述符可以附加到文件或许多其他东西，包括其他进程。

编辑OP的编辑：

正如评论中的Max所说，你不能在本地文件上使用epoll（而asyncio使用epoll）。是的，那有点奇怪。但是，您可以在管道上使用它，例如：

import asyncio
import urllib.parse
import sys
import pdb
import os

def fileCallback(*args):
    print("Received: " + sys.stdin.readline())

loop = asyncio.get_event_loop()
task = loop.add_reader(sys.stdin.fileno(), fileCallback)
loop.run_forever()

这将回应你在stdin上写的内容。

Answer 2

你不能在本地文件上使用add_reader，因为：

• 使用select / poll / epoll无法完成
• 这取决于操作系统
• 由于os的限制，它不能完全异步（linux不支持异步fs元数据读/写）

但是，从技术上讲，是的，您应该能够执行异步文件系统的读/写，（几乎）所有系统都具有用于在后台执行i / o的DMA机制。不，本地i / o并不是真的很快，没有人会想要它，CPU的速度比磁盘i / o快数百万倍。

如果您想尝试异步i / o，请查找aiofile或aiofiles