使用spacy和textacy。需要在原始推文的语料库中找到tf-idf得分,但无法导入文本向量化

问题描述 投票:3回答:1

我是这些框架以及NLP的新手。我正在按照一个示例给出以下代码片段来计算推文中所有令牌的tf-idf分数。但是我一直得到导入错误或Vectorizer未定义。

码:

import spacy
 from textacy.vsm import Vectorizer
 import textacy.vsm
 vectorizer = Vectorizer(weighting = 'tfidf')
 term_matrix = vectorizer.fit_transform([tok.lemma_ for tok in doc] for doc 
 in spacy_tweets)

收到的错误:

from textacy.vsm import Vectorizer
ImportError: cannot import name 'Vectorizer
//
import textacy
vectorizer = textacy.Vectorizer(weighting='tfidf')
AttributeError: module 'textacy' has no attribute 'Vectorizer'


//
   import textacy
   vectorizer = Vectorizer(weighting='tfidf')
   NameError: name 'Vectorizer' is not defined

我的环境

operating system: windows 10 64bit
python version: Python 3.6.4 :: Anaconda, Inc.
spacy version: 1.9.0-np111py36_vc14_1 installed
spacy models: en_core_web_sm 
textacy version: 0.3.4-py36_0

访问textacy vectorizer类的正确import语句是什么?

python-3.x tf-idf spacy textacy
1个回答
3
投票

使用conda时,安装了0.3.4版本的textacy。这个版本没有矢量化器。而是通过PyPi项目安装它。

https://pypi.org/project/textacy/

要检查是否有矢量化器,您可以执行以下操作:

In [1]: import textacy

In [2]: dir(textacy)
Out[2]:
['Corpus',
'Doc',
'TextStats',
'TopicModel',
'Vectorizer',
'__builtins__',
'__cached__',
'__doc__',
'__file__',
'__loader__',
'__name__',
'__package__',
'__path__',
'__spec__',
'__version__',
'about',
'absolute_import',
'cache',
'compat',
'constants',
'corpus',
'data_dir',
'doc',
'extract',
'io',
'load_spacy',
'logger',
'logging',
'network',
'os',
'preprocess',
'preprocess_text',
'spacy_utils',
'text_stats',
'text_utils',
'tm',
'utils',
'viz',
'vsm']
© www.soinside.com 2019 - 2024. All rights reserved.