我已经为二进制分类编写了多层感知。据我所知,一个隐藏层可以仅用线作为决策边界(每个隐藏神经元一行)来表示。这很有效,并且可以在训练后使用得到的权重轻松绘制。
但是,随着更多图层的添加,我不确定使用什么方法,可视化部分很少在教科书中处理。我想知道,有没有一种直接的方法将权重矩阵从不同的层转换为这个非线性决策边界(假设是2D输入)?
非常感谢,
绘制决策边界(用于线性或非线性分类器)的方法之一是对均匀网格中的点进行采样并将它们提供给分类器。 Asumming X
是您的数据,您可以创建统一的点网格,如下所示:
h = .02 # step size in the mesh
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, h),
np.arange(y_min, y_max, h))
然后,您将这些坐标提供给感知器以捕获他们的预测:
Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])
假设clf
是你的感知器,np.c_
从均匀采样的点创建特征,将它们提供给分类器并在Z
中捕获它们的预测。
最后,将决策边界绘制为等高线图(使用matplotlib):
Z = Z.reshape(xx.shape)
plt.contourf(xx, yy, Z, cmap=plt.cm.Paired, alpha=0.8)
也可以选择绘制您的数据点:
plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.Paired)
Fully working example,以及这个例子的学分归scikit-learn(顺便说一句,这是一个很好的机器学习库,实现了完全工作的Perceptron)。