是否存在稀疏矩阵/对象的`data.table`表示?

问题描述 投票:3回答:1

我想在data.table框架中工作,原因有很多,不包含在这篇文章中。 data.table是否有指标矩阵的稀疏表示,Matrix包?

library(Matrix)
library(data.table)

set.seed(123409L)

ints <- sample.int(2L, 1e6, replace=T, prob= c(0.9, 0.1)) - 1

m <- Matrix(ints, ncol= 1000)
dt <- data.table(matrix(ints, ncol= 1000))

pryr::object_size(m) # 1.22 MB
pryr::object_size(dt) # 8.1 MB

假设在实际使用案例中,我更接近于6e8元素,其中增长是假设无限的。

如果这个问题已经得到解答,请提前道歉。我很高兴它被标记为重复;但我没有通过搜索找到重复。

r data.table sparse-matrix
1个回答
0
投票

正如@Frank在他的评论中所建议的那样,你可以通过将非零元素及其索引存储为单独的观察结果,即三元组形式,在data.table中有效地表示稀疏矩阵:

m2 <- as(m, "dgTMatrix")
dt2 <- data.table(i=m2@i+1, j=m2@j+1, value=m2@x)

pryr::object_size(dt2) # 1.62 MB

这个data.table也可以从dt构建:

dt2 <- melt(copy(dt)[,i:=.I], id.vars="i"
    )[value>0][,j:=as.integer(variable)][,variable:=NULL]
© www.soinside.com 2019 - 2024. All rights reserved.