使用cython分配到任意数组位置。分配速度取决于价值？

Question

我在cython代码中看到了一些奇怪的行为。我正在编写代码来计算前向卡尔曼滤波器，但我有一个状态转换模型，其中有许多0s，所以能够只计算协方差矩阵的某些元素会很好。

所以为了测试它，我想用cython填充单个数组元素。令我惊讶的是，我找到了

1. 将输出写入特定的数组位置是非常慢的(function fill(...))，而不是每次(function nofill(...))（基本上忘记结果）将其分配给标量变量，以及
2. 设置C=0.1或31，虽然没有影响nofill(...)运行多长时间，但后者选择C使fill(...)运行速度慢2倍。这让我感到困惑。任何人都可以解释为什么我看到这个？

码：-

#################  file way_too_slow.pyx
from libc.math cimport sin

#  Setting C=0.1 or 31 doesn't change affect performance of calling nofill(...), but it makes the fill(...) slower.  I have no clue why.
cdef double C = 0.1

#  This function just throws away its output.

def nofill(double[::1] x, double[::1] y, long N):
    cdef int i
    cdef double *p_x = &x[0]
    cdef double *p_y = &y[0]
    cdef double d

    with nogil:
        for 0 <= i < N:
            d = ((p_x[i] + p_y[i])*3 + p_x[i] - p_y[i]) + sin(p_x[i]*C)  #  C appears here

#  Same function keeps its output.
#  However:   #1 - MUCH slower than 
def fill(double[::1] x, double[::1] y, double[::1] out, long N):
    cdef int i
    cdef double *p_x = &x[0]
    cdef double *p_y = &y[0]
    cdef double *p_o = &out[0]
    cdef double d

    with nogil:
        for 0 <= i < N:
            p_o[i] = ((p_x[i] + p_y[i])*3 + p_x[i] - p_y[i]) + sin(p_x[i]*C)    # C appears here

上面的代码由python程序调用

####################  run_way_too_slow.py
import way_too_slow as _wts
import time as _tm

N = 80000
x = _N.random.randn(N)
y = _N.random.randn(N)
out  = _N.empty(N)

t1 = _tm.time()
_wts.nofill(x, y, N)
t2 = _tm.time()
_wts.fill(x, y, out, N)
t3 = _tm.time()

print "nofill() ET: %.3e" % (t2-t1)
print "fill()   ET: %.3e" % (t3-t2)

print "fill() is slower by factor %.3f" % ((t3-t2)/(t2-t1))

cython是使用setup.py文件编译的

#################  setup.py
from distutils.core import setup, Extension
from distutils.sysconfig import get_python_inc
from distutils.extension import Extension
from Cython.Distutils import build_ext

incdir=[get_python_inc(plat_specific=1)]
libdir = ['/usr/local/lib']

cmdclass = {'build_ext' : build_ext}

ext_modules = Extension("way_too_slow",
                        ["way_too_slow.pyx"],
                        include_dirs=incdir,   #  include_dirs for Mac
                        library_dirs=libdir)

setup(
    name="way_too_slow",
    cmdclass = cmdclass,
    ext_modules = [ext_modules]
)

以下是使用C = 0.1运行“run_way_too_slow.py”的典型输出

>>> exf("run_way_too_slow.py")
nofill() ET: 6.700e-05
fill()   ET: 6.409e-04
fill() is slower by factor 9.566

典型的运行，C = 31。

>>> exf("run_way_too_slow.py")
nofill() ET: 6.795e-05
fill()   ET: 1.566e-03
fill() is slower by factor 23.046

我们可以看到

1. 与分配给double相比，分配到指定的数组位置相当慢。
2. 出于某种原因，分配速度似乎取决于计算中的操作 - 这对我来说没有意义。

任何见解将不胜感激。

Answer 1

有两点可以解释你的观察：

答：在第一个版本中没有任何反应。 c编译器足够聪明，可以看到整个循环在函数外部没有任何影响并优化了它。

要强制执行，您必须使结果d在外部可见，例如通过：

cdef double d=0
....
       d+=....
return d

它可能仍然比写入数组版本慢，因为内存访问成本较低 - 但在更改值C时会看到速度减慢。

B：sin是一个复杂的函数，计算所需的时间取决于它的参数。例如，对于非常小的参数 - 可以返回参数本身，但是对于更大的参数，必须更长时间地评估Taylor系列。 Here是tanh成本的一个例子，取决于参数的值，像sin通过不同的近似/泰勒级数计算 - 所需时间最重要的部分取决于参数。