我是SO的新手但是花了好几天时间来处理问题。我找到的最接近的相关问题是How to compare each word of a line in a file with a list element in scala?,但这可以追溯到2014年,所以认为现在可能有不同的解决方案。
同样在上面引用的帖子中,最佳答案使用了我试图避免的可变数据结构。 Dima的最后一个答案看起来更实用,但没有奏效:(
我试图在SCALA中创建一个类似的程序,除了输出还应该包含关键字的总计数,并且所有关键字都应该输出,即使没有找到匹配,因此计数将为零。
要检查的关键字被硬编码到列表中,但是我还想添加包含关键字的第二个用户提供的参数的选项。到目前为止,我已经到了以下但是很糟糕:
object FileAnalyser extends App {
val hardcodedkeywords = List("foo", "bar", "hello")
if (args.length > 1) {
val keywords = args(1).toList
try {
val rdd = Source.fromFile(args(0)).getLines.toList.zipWithIndex.flatMap {
case(line, index) => line.split("\\W+").map { (_, index+1) }
} //.filter(keywords.contains(_)).groupBy { _._1 }.mapValues(_._2)
} catch {
case ioe: IOException => println(ioe)
case fnf: FileNotFoundException => println(fnf)
case _: Throwable => println("Uknown error occured")
}
} else
try {
val rdd = Source.fromFile(args(0)).getLines.toList.zipWithIndex.flatMap {
case(line, index) => line.split("\\W+").map { (_, index+1) }
} //filter(hardcodedkeywords.contains(_))
//.groupBy { _._1 }.mapValues(_._2)
} catch {
case ioe: IOException => println(ioe)
case fnf: FileNotFoundException => println(fnf)
case _: Throwable => println("Uknown error occured")
}
}
到目前为止,我已经设法使用包含文件的args(0)来读取,读取和映射到包含每行字符串的列表以及索引+ 1(行号从1开始但索引从0开始)程序必须尽可能的功能,以便更少的可变性和状态更改以及更高阶的函数和列表递归。
谢谢示例输出将是:
//alphabetical //No duplicates
//order //Increasing in no.
keyword lines count
bar [1,2..] 6
foo [3,5] 2
hello [] 0
以下是如何完成的基本概要。
val keywords = List(/*key words here*/)
val resMap = io.Source
.fromFile(/*file to read*/)
.getLines()
.zipWithIndex
.foldLeft(Map.empty[String,Seq[Int]].withDefaultValue(Seq.empty[Int])){
case (m, (line, idx)) =>
val subMap = line.split("\\W+").toSeq //separate the words
.filter(keywords.contains) //keep only key words
.groupBy(identity) //make a Map w/ keyword as key
.mapValues(_.map(_ => idx+1)) //and List of line numbers as value
.withDefaultValue(Seq.empty[Int])
keywords.map(kw => (kw, m(kw) ++ subMap(kw))).toMap
}
//formatted results (needs work)
println("keyword\t\tlines\t\tcount")
keywords.sorted.foreach{kw =>
println(kw + "\t\t" +
resMap(kw).distinct.mkString("[",",","]") + "\t\t" +
resMap(kw).length
)
}
一些解释
io.Source
是一个库(实际上是一个object
),它提供了一些基本的输入/输出方法,包括fromFile()
,它打开一个文件进行阅读。getLines()
一次从文件中读取一行。zipWithIndex
为每行读取附加一个索引值。foldLeft()
读取文件的所有行,一次一个,并且(在这种情况下)构建所有关键词及其行位置的Map
。resMap
和subMap
只是我选择给我正在构建的变量的名称。 resMap
(结果图)是在处理完整个文件后创建的。 subMap
是一个由文件中的一行文本构建的中间地图。如果你想要传递一组关键词的选项,我会这样做:
val keywords = if (args.length > 1) args.tail.toList else hardcodedkeywords