合并多个平均值而不计算总计

问题描述 投票:3回答:2

我目前有来自序列化数据的多个[Average, Count]对。用户希望能够将一些值集合(分组)在一起并获得聚合结果。

我很喜欢它,我会做Sum(Average * Count) / Sum(Count)

但问题是,有些值非常大,如果我总结它们会导致算术溢出。

有没有办法合并平均部分而不计算总数?计数部分非常明显。

math statistics
2个回答
0
投票

假设CountAverage是索引值,您可以通过这种方式计算聚合平均值:

TotalCount = Sum(Count)
TotalAverage = Sum(Average * (Count/TotalCount))

如果要在序列化数据的单次迭代中计算值,则可以以看起来像指数平均值的方式对连续加权平均值求和。

TotalCount = 0
TotalAverage = 0
for each index in data-set of [Average, Count]
    TotalCount = TotalCount + Count[index]
    Weight = Count[index]/TotalCount
    TotalAverage =   TotalAverage * (1 - Weight)
                   + Average[index] * Weight

您可以通过考虑前两对来推导出正确的方法。

如果只有第一对:

TotalCount = Count[1]
TotalAverage = Average[1]

但是,如果有两对:

TotalCount = Count[1] + Count[2]
TotalAverage =   Average[1] * (Count[1]/TotalCount) 
               + Average[2] * (Count[2]/TotalCount)

如果我们从第一对迭代到第二对,那么两对计算可能如下所示:

TotalCount = TotalCount + Count[2]
TotalAverage =   TotalAverage * (TotalCount - Count[2])/TotalCount
               + Average[2]   * (Count[2]/TotalCount)

如果我们让Weight代表Count[2]/TotalCount,上面简化为:

TotalCount = TotalCount + Count[2]
Weight = Count[2]/TotalCount
TotalAverage =   TotalAverage * (1 - Weight)
               + Average[2] * Weight

由于TotalCountTotalAverage在采用一对新的序列化数据的每一步都是正确的,因此[2]可以用迭代索引替换。


0
投票

虽然@jxh的答案很好并且解决了你的问题,但是他和你的原始方法对成对数据进行了两次传递(首先是总计数,然后是平均值),这可能会损害性能。你可以一次完成,进行滚动平均。即使对来自流,也可以使用它,你不知道它们中有多少

一些Python代码:

data = [(3.1, 12), (5.2, 17), (9.7, 11)]

total_count = 0
total_avg   = 0.0
for avg, count in data:
    n0 = total_count
    total_count += count

    p = float(n0) / float(total_count)
    total_avg = p*total_avg + (1.0 - p)*avg

print(total_count)
print(total_avg)
© www.soinside.com 2019 - 2024. All rights reserved.