scala 相关问题

Scala是一种通用编程语言,主要针对Java虚拟机。旨在以简洁,优雅和类型安全的方式表达通用编程模式,它融合了命令式和函数式编程风格。其主要特点是:具有类型推断的高级静态类型系统;功能类型;模式匹配;隐含参数和转换;运算符重载;与Java的完全互操作性;并发

Twitter使用Spark流式传输

我正在尝试使用spark scala代码来传输Twitter数据。我能够获取数据并创建数据帧并查看它。但是当我尝试提取status.getPlace.getCountry()时,我得到了一个java.lang ....

回答 2 投票 0

Apache flink:使用keyBy / connect维护流中的消息输入顺序

介绍我正在使用apache flink构建一个相当复杂的数据流网络。这个想法是,用flink实现规则引擎。作为应用程序的基本描述,它是如何...

回答 1 投票 1

如何更新接受Option的方法

我有一个像下面这样的方法:private checkSomething(something:color){return something.name ==“red”|| something.type ==“light”}这样可行,但是,我想把它改成Option ...

回答 4 投票 0

Spark结构化流多个WriteStream到同一个接收器

Spark Structured Streaming 2.2.1中没有按顺序发生到同一数据库接收器的两个Writestream。请建议如何按顺序执行它们。 val deleteSink = ds1.writestream ....

回答 1 投票 2

声纳中的Scala插件

我已经看到了一个专门用于Scala的插件正在开发中(http://docs.sonarqube.org/display/SONARQUBE45/Scala+Plugin)。有人能够告诉我这个插件的开发时间......

回答 2 投票 3

合并spark scala Dataframe中的行

合并火花数据框中的行我有以下ID的数据名称Passport国家许可证UpdatedtimeStamp 1 Ostrich 12345 - ABC 11-02-2018 1 - - ...

回答 2 投票 3

Scala:“map”vs“foreach” - 有没有理由在实践中使用“foreach”?

在Scala集合中,如果想要迭代集合(不返回结果,即对集合的每个元素都产生副作用),可以使用final def foreach(f :( ...

回答 3 投票 14

将Vector集合转换为dataframe时出现架构错误

我有一个名为values的矢量集合,我正在尝试将其转换为数据帧scala.collection.immutable.Vector [(String,Double)] = Vector((1,1.0),(2,2.4),(3,3.7) ),(4,5.0),(5,4.9))我有......

回答 1 投票 0

SBT找不到hadoop-aws 3.1.1

build.sbt :( snippet)val hadoop_aws =“org.apache.hadoop”%“hadoop-aws”%“3.1.1”libraryDependencies + = hadoop_aws但是,当尝试更新时:> update [info]正在更新... [警告] ......

回答 1 投票 2

如何为stream任务的日志成员设置SBT logLevel?

在SBT任务中使用streams.value.log时如何设置logLevel?例如,如何将此任务的日志压缩到Warn日志?:lazy val mainRunner = taskKey [Seq [File]](“运行主...

回答 1 投票 2

如何在DataFrame组中执行算术运算在Spark中进行聚合? [重复]

我有一个数据帧如下:val df = Seq((“x”,“y”,1),(“x”,“z”,2),(“x”,“a”,4),(“ x“,”a“,5),(”t“,”y“,1),(”t“,”y2“,6),(”t“,”y3“,3),(”t“ ,“y4”,5))。toDF(“F1”,“F2”,“F3”)+ --- + --- + - ...

回答 2 投票 -1

如何在Spark中转置数据框?

我有以下数据框:+ -------------------- + --- + --- + ----- + ---- + --- ----- + ---- + | AK | 1 | 2 | 3 | 4 | 5 | 6 | + -------------------- + --- + --- + ----- + ---- + -------- + ---- + ......

回答 2 投票 0

计算Spark DataFrame中的非空值的数量

我有一些带有一些列的数据框,在做分析之前,我想了解这样的数据帧是如何完整的,所以我想过滤数据帧并计算每列非数...

回答 3 投票 5

Scala / Spark:如何将此参数传递给.select语句

我有办法得到一个有效的数据框的子集:这工作val subset_cols = {joinCols:+ col} val df1_subset = df1.select(subset_cols.head,subset_cols.tail:_ *)这不起作用:(。 ..

回答 1 投票 -3

在代理后面运行SBT

我试图在企业代理后面运行SBT示例。 sbt new sbt / scala-seed.g8我按照说明设置代理:export SBT_OPTS =“$ SBT_OPTS -Dhttp.proxyHost = myusername:mypassword @ correcthost ...

回答 2 投票 0

数据帧字符串到Hive表Bigint - 如何转换

Spark:1.6,Scala,Hive我有一个数据帧DF.printschema root | - rundatetime:string(nullable = true)| - day_cunt:String(nullable = true)| - my_key:integer(nullable = true)DF。节目() ...

回答 1 投票 0

scala中的隐式json转换器在运行时为null

使用了play框架我有一个case类的文件(在Project中有聚合任务。很重要)像case类Project(var tasks:Map [String,Task])case class Task(var activities:Map [String,...

回答 1 投票 1

Scala插件与Intellij 2018.3.3不兼容:无法在“新建项目”中选择Scala

我无法在Intellij的“新项目”中选择Scala。 Scala插件与Intellij Ultimate 2018.3.3不兼容。虽然很难找到。我现在真的应该将Intellij降级为......

回答 1 投票 0

Scala - 使用超时重试HTTP请求

我希望创建一个服务,它向特定的URL发出HTTP请求,如果它在1秒内没有得到结果,那么该请求将超时,然后它将重试另一个请求,...

回答 2 投票 1

获取案例类中相同类型的字段值列表

我有一个这样的课程,如果有人感兴趣的话,我会详细解答重叠算法的哪个部分出错了,我希望将来可以用其他许多方法来增强它...

回答 2 投票 1

© www.soinside.com 2019 - 2024. All rights reserved.