scala 相关问题

Scala是一种通用编程语言,主要针对Java虚拟机。旨在以简洁,优雅和类型安全的方式表达通用编程模式,它融合了命令式和函数式编程风格。其主要特点是:具有类型推断的高级静态类型系统;功能类型;模式匹配;隐含参数和转换;运算符重载;与Java的完全互操作性;并发

探索scala宏中的表达式树

我正在学习scala和作业,我必须写一个宏。宏应该探索表达式树,然后构建自定义表达式。我设法“看看”表达式......

回答 1 投票 0

用于链表样式函数调用的CPS样式

我试图将以下代码转换为继续传递样式。代码最初返回一个String,因此我将其更改为调用带有String的continue lambda。我想知道如何......

回答 1 投票 1

如何从代码外部提供spark / scala中的模式

我想读取一个ex:schema_file的文件,它将包含模式,并希望在代码中使用它来创建DataFrame我已经阅读了有关ConfigFactory以提供模式但不能将其用作...

回答 1 投票 0

Twitter使用Spark流式传输

我正在尝试使用spark scala代码来传输Twitter数据。我能够获取数据并创建数据帧并查看它。但是当我尝试提取status.getPlace.getCountry()时,我得到了一个java.lang ....

回答 2 投票 0

Apache flink:使用keyBy / connect维护流中的消息输入顺序

介绍我正在使用apache flink构建一个相当复杂的数据流网络。这个想法是,用flink实现规则引擎。作为应用程序的基本描述,它是如何...

回答 1 投票 1

如何更新接受Option的方法

我有一个像下面这样的方法:private checkSomething(something:color){return something.name ==“red”|| something.type ==“light”}这样可行,但是,我想把它改成Option ...

回答 4 投票 0

Spark结构化流多个WriteStream到同一个接收器

Spark Structured Streaming 2.2.1中没有按顺序发生到同一数据库接收器的两个Writestream。请建议如何按顺序执行它们。 val deleteSink = ds1.writestream ....

回答 1 投票 2

声纳中的Scala插件

我已经看到了一个专门用于Scala的插件正在开发中(http://docs.sonarqube.org/display/SONARQUBE45/Scala+Plugin)。有人能够告诉我这个插件的开发时间......

回答 2 投票 3

合并spark scala Dataframe中的行

合并火花数据框中的行我有以下ID的数据名称Passport国家许可证UpdatedtimeStamp 1 Ostrich 12345 - ABC 11-02-2018 1 - - ...

回答 2 投票 3

Scala:“map”vs“foreach” - 有没有理由在实践中使用“foreach”?

在Scala集合中,如果想要迭代集合(不返回结果,即对集合的每个元素都产生副作用),可以使用final def foreach(f :( ...

回答 3 投票 14

将Vector集合转换为dataframe时出现架构错误

我有一个名为values的矢量集合,我正在尝试将其转换为数据帧scala.collection.immutable.Vector [(String,Double)] = Vector((1,1.0),(2,2.4),(3,3.7) ),(4,5.0),(5,4.9))我有......

回答 1 投票 0

SBT找不到hadoop-aws 3.1.1

build.sbt :( snippet)val hadoop_aws =“org.apache.hadoop”%“hadoop-aws”%“3.1.1”libraryDependencies + = hadoop_aws但是,当尝试更新时:> update [info]正在更新... [警告] ......

回答 1 投票 2

如何为stream任务的日志成员设置SBT logLevel?

在SBT任务中使用streams.value.log时如何设置logLevel?例如,如何将此任务的日志压缩到Warn日志?:lazy val mainRunner = taskKey [Seq [File]](“运行主...

回答 1 投票 2

如何在DataFrame组中执行算术运算在Spark中进行聚合? [重复]

我有一个数据帧如下:val df = Seq((“x”,“y”,1),(“x”,“z”,2),(“x”,“a”,4),(“ x“,”a“,5),(”t“,”y“,1),(”t“,”y2“,6),(”t“,”y3“,3),(”t“ ,“y4”,5))。toDF(“F1”,“F2”,“F3”)+ --- + --- + - ...

回答 2 投票 -1

如何在Spark中转置数据框?

我有以下数据框:+ -------------------- + --- + --- + ----- + ---- + --- ----- + ---- + | AK | 1 | 2 | 3 | 4 | 5 | 6 | + -------------------- + --- + --- + ----- + ---- + -------- + ---- + ......

回答 2 投票 0

计算Spark DataFrame中的非空值的数量

我有一些带有一些列的数据框,在做分析之前,我想了解这样的数据帧是如何完整的,所以我想过滤数据帧并计算每列非数...

回答 3 投票 5

Scala / Spark:如何将此参数传递给.select语句

我有办法得到一个有效的数据框的子集:这工作val subset_cols = {joinCols:+ col} val df1_subset = df1.select(subset_cols.head,subset_cols.tail:_ *)这不起作用:(。 ..

回答 1 投票 -3

在代理后面运行SBT

我试图在企业代理后面运行SBT示例。 sbt new sbt / scala-seed.g8我按照说明设置代理:export SBT_OPTS =“$ SBT_OPTS -Dhttp.proxyHost = myusername:mypassword @ correcthost ...

回答 2 投票 0

数据帧字符串到Hive表Bigint - 如何转换

Spark:1.6,Scala,Hive我有一个数据帧DF.printschema root | - rundatetime:string(nullable = true)| - day_cunt:String(nullable = true)| - my_key:integer(nullable = true)DF。节目() ...

回答 1 投票 0

scala中的隐式json转换器在运行时为null

使用了play框架我有一个case类的文件(在Project中有聚合任务。很重要)像case类Project(var tasks:Map [String,Task])case class Task(var activities:Map [String,...

回答 1 投票 1

© www.soinside.com 2019 - 2024. All rights reserved.