计算scipy csr矩阵中的欧式距离

问题内容：

我需要计算存储在csr稀疏矩阵中的所有点与一些点列表之间的欧几里得距离。将csr转换为密集的csr对我来说会更容易，但是由于内存不足，我无法这样做，因此我需要将其保留为csr。

因此，例如，我有这个 data_csr 稀疏矩阵（同时以csr和 dens形式 查看）：

data_csr
(0, 2)  4
(1, 0)  1
(1, 4)  2
(2, 0)  2
(2, 3)  1
(3, 5)  1
(4, 0)  4
(4, 2)  3
(4, 3)  2

data_csr.todense()
[[0, 0, 4, 0, 0, 0]
 [1, 0, 0, 0, 2, 0]
 [2, 0, 0, 1, 0, 0]
 [0, 0, 0, 0, 0, 1]
 [4, 0, 3, 2, 0, 0]]

这个中心的点列表：

center
array([[0, 1, 2, 2, 4, 1],
      [3, 4, 1, 2, 4, 0]])

使用该scipy.spatial包， data_csr* 和 center 之间的欧几里德距离数组将类似于下面的数组。因此，针对
data_csr 中的所有行，计算了 中心的 每一行中总共6个点中的每个点。结果数组（2,5）的第一行是 center 的第一行与
data_csr中的 所有行之间的ED 。

*

scipy.spatial.distance.cdist(center, data_csr, 'euclidean')

array([[ 5.09901951,  3.87298335,  5.19615242,  5.        ,  5.91607978],
      [ 7.34846923,  5.38516481,  5.91607978,  6.8556546 ,  6.08276253]])

到目前为止，我已经了解到我可以使用以下方法获得非零值以及索引：

data_csr.data
array([4, 1, 2, 2, 1, 1, 4, 3, 2])

data_csr.indices
array([2, 0, 4, 0, 3, 5, 0, 2, 3])

但是我仍然不知道如何计算这两个对象之间的ED。

问题答案：

因此，让我们创建矩阵（很遗憾，您没有提供我可以复制粘贴的输入）

In [114]: data=[4,1,2,2,1,1,4,3,2]   
In [115]: col=[0,1,1,2,2,3,4,4,4]
In [116]: row=[2,0,4,0,3,5,0,2,3]
In [117]: M=sparse.csr_matrix((data,(col,row)))

In [118]: M
Out[118]: 
<5x6 sparse matrix of type '<type 'numpy.int32'>'
    with 9 stored elements in Compressed Sparse Row format>

In [119]: M.A
Out[119]: 
array([[0, 0, 4, 0, 0, 0],
       [1, 0, 0, 0, 2, 0],
       [2, 0, 0, 1, 0, 0],
       [0, 0, 0, 0, 0, 1],
       [4, 0, 3, 2, 0, 0]])

In [121]: center=np.array([[0,1,2,2,4,1],[3,4,1,2,4,0]])

那么，您如何计算距离？ M.A是（5,6），center是（2,6）。这两个数组在做什么并不明显。

至于访问“原始”稀疏值，该coo格式最容易理解。这是我用来创建矩阵的相同行，列，数据内容

In [131]: M.tocoo().data
Out[131]: array([4, 1, 2, 2, 1, 1, 4, 3, 2])

In [132]: M.tocoo().col
Out[132]: array([2, 0, 4, 0, 3, 5, 0, 2, 3])

In [133]: M.tocoo().row
Out[133]: array([0, 1, 1, 2, 2, 3, 4, 4, 4])

将csr存储在同一个信息data，indices和indptr阵列。但是，您必须做一些数学运算才能i,j得出最后2个值。
csr乘法例程充分利用了这些数组。

通常，与csr矩阵相乘要比加法/减法好。

我等待进一步的澄清。

spatial.distance.cdist(center,M.A, 'euclidean')
Out[156]: 
array([[ 5.09901951,  3.87298335,  5.19615242,  5.        ,  5.91607978],
       [ 7.34846923,  5.38516481,  5.91607978,  6.8556546 ,  6.08276253]])

我们需要做的是研究此功能，并了解其输入。我们可能不得不超越其文档，然后看一下代码。

但是看这段代码，我看到了确保xB2d数组的步骤，列数与相同xA。然后euclidian它呼吁

_distance_wrap.cdist_euclidean_wrap(_convert_to_double(XA),
                                    _convert_to_double(XB), dm)

看起来像是一些C代码的包装器。我无法想象以任何方式将其馈入稀疏矩阵。

您可以遍历行；通话dist与-M[[0],:].A相同，M.A[[0],:]但速度不同。遍历稀疏矩阵的行有点慢，这是因为它必须在每次迭代时构造一个新的稀疏矩阵。
csr并且lil是行迭代最快的2。

这可能会更快-直接迭代lil格式的属性：

 def foo(a,b,n):
    # make a dense array from data,row
    res = np.zeros((1,n))
    res[0,b]=a
    return res

In [190]: Ml=M.tolil()

In [191]: Ml.data
Out[191]: array([[4], [1, 2], [2, 1], [1], [4, 3, 2]], dtype=object)

In [192]: Ml.rows
Out[192]: array([[2], [0, 4], [0, 3], [5], [0, 2, 3]], dtype=object)

In [193]: rowgen=(foo(a,b,6) for a,b in zip(Ml.data,Ml.rows))

In [194]: np.concatenate([spatial.distance.cdist(center,row, 'euclidean') for row in rowgen],axis=1)
Out[194]: 
array([[ 5.09901951,  3.87298335,  5.19615242,  5.        ,  5.91607978],
       [ 7.34846923,  5.38516481,  5.91607978,  6.8556546 ,  6.08276253]])

现在，我将跳过时间测试。

计算scipy csr矩阵中的欧式距离

微信关注