将队列传递给python中的看门狗线程

Question

我有一个类Indexer，它是从主线程实例化的，这个类的实例存储在一个变量中，比如indexer。 watchdog.observers.Observer()观察目录的变化，这些发生在另一个线程中。我尝试从主线程传递这个indexer变量通过我的处理程序Vigilante，它与主线程中的一些其他变量一起传递给ob.schedule(Vigilante(indexer))。我无法访问indexer中的Vigilante class变量，因为它位于不同的线程中。我知道我可以使用Queue，但我不知道如何将Queue传递给看门狗的线程。

这是主线程的代码：

if watch:
    import watchdog.observers
    from .utils import vigilante
    class callbacks:
        def __init__(self):
            pass
        @staticmethod
        def build(filename, response):
            return _build(filename, response)
        @staticmethod
        def renderer(src, mode):
            return render(src, mode)
    handler = vigilante.Vigilante(_filter, ignore, Indexer, callbacks, Mode)
    path_to_watch = os.path.normpath(os.path.join(workspace, '..'))
    ob = watchdog.observers.Observer()
    ob.schedule(handler, path=path_to_watch, recursive=True)
    ob.start()
    import time
    try:
        while True:
            time.sleep(1)
    except KeyboardInterrupt:
        ob.stop()
        Indexer.close()
    ob.join()

Indexer class用于从Indexer实例化的代码的另一部分写入数据库。

以下是在watchdog的线程中运行的Vigilante类的代码：

class Vigilante(PatternMatchingEventHandler):
    """Helps to watch files, directories for changes"""
    def __init__(self, pattern, ignore, indexer, callback, mode):
        pattern.append("*.yml")
        self.Callback = callback
        self.Mode = mode
        self.Indexer = indexer
        super(Vigilante, self).__init__(patterns=pattern, ignore_directories=ignore)

    def vigil(self, event):
        print(event.src_path, 'modified')
        IndexReader = self.Indexer.get_index_on(event.src_path)
        dep = IndexReader.read_index()
        print(dep.next(), 'dependency')
        feedout = self.Callback.build(
            os.path.basename(event.src_path)
            ,self.Callback.renderer(event.src_path, self.Mode.FILE_MODE)
        )

    def on_modified(self, event):
        self.vigil(event)

    def on_created(self, event):
        self.vigil(event)

我只需要一种方法将这些变量从主线程传递到看门狗的线程，通过Vigilante类

Answer 1

我终于找到了一种方法来做到这一点，而不像以前那样过多地穿过线程，从@EvertW的回答中得出一个想法。我从主线程传递了Queue到另一个线程中的Vigilante类，所以每个修改过的文件都放在Queue中，然后，从主线程中，我从队列中修改了文件，从Indexer数据库中读取，并且Vigilante.vigil方法需要执行的每个其他任务都被移动到主线程，因为这些任务取决于修改后的文件以及从Indexer数据库读取的内容。

这个错误消失了：

在线程中创建的SQLite对象只能在同一个线程中使用。该对象是在线程ID 9788中创建的，这是线程ID 4288。

这是我做的一个片段：

....
q = Queue.LifoQueue(10)
handler = vigilante.Vigilante(q, _filter, ignore)
path_to_watch = os.path.normpath(os.path.join(workspace, '..'))
ob = watchdog.observers.Observer()
ob.schedule(handler, path=path_to_watch, recursive=True)
ob.start()
import time
try:
    while True:
        if not q.empty():
            modified = q.get()
            IndexReader = Indexer.get_index_on(modified)
            deps = IndexReader.read_index()
            print(deps.next(), 'dependency')
            # TODO
        else:
            print('q is empty')
            time.sleep(1)
except KeyboardInterrupt:
    ob.stop()
    Indexer.close()
ob.join()

Vigilante类：

class Vigilante(PatternMatchingEventHandler):
    """Helps to watch files, directories for changes"""
    def __init__(self, q, pattern, ignore):
        self.q = q
        super(Vigilante, self).__init__(
            patterns=pattern, 
            ignore_patterns=ignore, 
            ignore_directories=True
        )

    def vigil(self, event):
        print(event.src_path, 'modified')
        self.q.put(event.src_path)

    def on_modified(self, event):
        self.vigil(event)

    def on_created(self, event):
        self.vigil(event)
....

PS：一句忠告：我对那些遇到这种问题的人提出的建议是： “不要相信看门狗的线程对修改后的文件执行任务，只需将修改后的文件拿出来，随心所欲地做任何事情，除了任务很简单。”

Answer 2

您可以尝试使用Observer pattern（没有双关语），即让Observer类有一个监听器列表，它将通知它看到的任何更改。然后让索引器宣布它对Observer的兴趣。

在我的示例中，Observer期望订阅者是接收更改的callables。然后你可以这样做：

from queue import Queue
class Observable:
    def __init__(self):
        self.listeners = []
    def subscribe(listener):
        self.listeners.append(listener)
    def onNotify(change):
        for listener in self.listeners:
            listener(change)

class Indexer(Thread):
    def __init__(self, observer):
        Thread.__init__(self)
        self.q = Queue()
        observer.subscribe(self.q.put)
    def run(self):
        while True:
            change = self.q.get()

因为标准队列是完全线程安全的，所以这将正常工作。