scala计数读取文件中包含的列表中的字符串

问题描述 投票:3回答:1

我是SO的新手但是花了好几天时间来处理问题。我找到的最接近的相关问题是How to compare each word of a line in a file with a list element in scala?,但这可以追溯到2014年,所以认为现在可能有不同的解决方案。

同样在上面引用的帖子中,最佳答案使用了我试图避免的可变数据结构。 Dima的最后一个答案看起来更实用,但没有奏效:(

我试图在SCALA中创建一个类似的程序,除了输出还应该包含关键字的总计数,并且所有关键字都应该输出,即使没有找到匹配,因此计数将为零。

要检查的关键字被硬编码到列表中,但是我还想添加包含关键字的第二个用户提供的参数的选项。到目前为止,我已经到了以下但是很糟糕:

object FileAnalyser extends App {

val hardcodedkeywords = List("foo", "bar", "hello")

if (args.length > 1) {
  val keywords = args(1).toList
  try {
    val rdd = Source.fromFile(args(0)).getLines.toList.zipWithIndex.flatMap {
      case(line, index) => line.split("\\W+").map { (_, index+1) }
    } //.filter(keywords.contains(_)).groupBy { _._1 }.mapValues(_._2)
  } catch {
    case ioe: IOException => println(ioe)
    case fnf: FileNotFoundException => println(fnf)
    case _: Throwable => println("Uknown error occured")
  }
} else 
  try {
    val rdd = Source.fromFile(args(0)).getLines.toList.zipWithIndex.flatMap {
      case(line, index) => line.split("\\W+").map { (_, index+1) }
    } //filter(hardcodedkeywords.contains(_))
      //.groupBy { _._1 }.mapValues(_._2)
  } catch {
    case ioe: IOException => println(ioe)
    case fnf: FileNotFoundException => println(fnf)
    case _: Throwable => println("Uknown error occured")
  }
}

到目前为止,我已经设法使用包含文件的args(0)来读取,读取和映射到包含每行字符串的列表以及索引+ 1(行号从1开始但索引从0开始)程序必须尽可能的功能,以便更少的可变性和状态更改以及更高阶的函数和列表递归。

谢谢示例输出将是:

//alphabetical      //No duplicates
//order             //Increasing in no. 
keyword              lines                count
bar                  [1,2..]                6
foo                  [3,5]                  2
hello                []                     0
java scala functional-programming immutability
1个回答
2
投票

以下是如何完成的基本概要。

val keywords = List(/*key words here*/)

val resMap = io.Source
  .fromFile(/*file to read*/)
  .getLines()
  .zipWithIndex
  .foldLeft(Map.empty[String,Seq[Int]].withDefaultValue(Seq.empty[Int])){
    case (m, (line, idx)) =>
      val subMap = line.split("\\W+").toSeq  //separate the words
        .filter(keywords.contains)           //keep only key words
        .groupBy(identity)                   //make a Map w/ keyword as key
        .mapValues(_.map(_ => idx+1))        //and List of line numbers as value
        .withDefaultValue(Seq.empty[Int])
      keywords.map(kw => (kw, m(kw) ++ subMap(kw))).toMap
  }

//formatted results (needs work)
println("keyword\t\tlines\t\tcount")
keywords.sorted.foreach{kw =>
  println(kw + "\t\t" +
          resMap(kw).distinct.mkString("[",",","]") + "\t\t" +
          resMap(kw).length
         )
}

一些解释

  • io.Source是一个库(实际上是一个object),它提供了一些基本的输入/输出方法,包括fromFile(),它打开一个文件进行阅读。
  • getLines()一次从文件中读取一行。
  • zipWithIndex为每行读取附加一个索引值。
  • foldLeft()读取文件的所有行,一次一个,并且(在这种情况下)构建所有关键词及其行位置的Map
  • resMapsubMap只是我选择给我正在构建的变量的名称。 resMap(结果图)是在处理完整个文件后创建的。 subMap是一个由文件中的一行文本构建的中间地图。

如果你想要传递一组关键词的选项,我会这样做:

val keywords = if (args.length > 1) args.tail.toList else hardcodedkeywords
© www.soinside.com 2019 - 2024. All rights reserved.