Scala:如何在循环中组合数据帧

问题描述 投票:-3回答:1

我想在递归方法中做数据帧的联合。

我在递归方法中进行一些计算并过滤数据并存储在一个变量中。在第二次迭代中,我将进行一些计算,然后我将数据存储在同一个变量中。当我第二次调用方法时,我的第一个结果消失了。理想的是我必须将结果存储在一个临时变量中,我需要做所有结果的联合,直到递归方法完成其执行。

df中的迭代1输出:

Col1   
    14      
    35    

迭代中的迭代2输出:

Col1
    18      
    20

现在我需要最终输出为,

Col1
    14
    35
    18
    20

码:

def myRecursiveMethod(first: List[List[String]],
                        Inputcolumnsdummy: List[List[String]],
                        secondInputcolumns: List[List[String]] = {

  val ongoingResult = doSomeCalculation(first,Inputcolumnsdummy, secondInputcolumns)
}

我希望我的代码应该像下面这样,

def myRecursiveMethod(first: List[List[String]],
                        Inputcolumnsdummy: List[List[String]],
                        secondInputcolumns: List[List[String]]) = {

    val ongoingResult = doSomeCalculation(first, Inputcolumnsdummy, secondInputcolumns)
    Val temp = temp.union(ongoingResult)
}
scala apache-spark spark-dataframe
1个回答
0
投票

你应该尝试:像这样使用uniondf1.union(df2)df1.union(computation(df2,...))

示例如下:

def doCompute(df: DataFrame): DataFrame = {
    val tmp: DataFrame = ... // TODO: call to your computation method
    tmp.show()
    df.union(tmp)
}

val df1: DataFrame = ...
val df2: DataFrame = ...
val df3: DataFrame = ...

var union_df: DataFrame = df1.union(doCompute(df2)).union(doCompute(df3))

在你的问题中我不明白的一件事是你的函数myRecursiveMethod如何递归?根据定义,递归函数会调用自身。不确定你的问题是否真的很清楚。

© www.soinside.com 2019 - 2024. All rights reserved.