Spark排序之SortByKey
2024-10-16 20:14:56
sortByKey函数作用于Key-Value形式的RDD,并对Key进行排序。
package com.test.spark
import org.apache.spark.{SparkConf, SparkContext} /**
* @author admin
* SortByKey:sortByKey对于key是单个元素排序很简单,
* 如果key是元组如(X1,X2,X3.....),它会先按照X1排序,若X1相同,则在根据X2排序,依次类推...
*/
object SparkSortByKeyApplication {
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setMaster("local").setAppName("SortByKey-test")
val sc = new SparkContext(conf)
val arr = Array((1, 6, 3), (2, 3, 3), (1, 1, 2), (1, 3, 5), (2, 1, 2))
val rdd1 = sc.parallelize(arr)
// 设置元素(e1,e3)为key,value为原来的整体
val rdd2 = rdd1.map(e => ((e._1, e._3), e))
// 利用sortByKey排序的对key的特性
val rdd3 = rdd2.sortByKey()
val rdd4 = rdd3.values.collect
rdd4.foreach(println)
}
}
最新文章
- jmeter ForEach Controller学习
- Socket编程基础——Socket选项
- redis中模糊删除
- HW3.1
- “layout_”下划线开头的属性
- JQuery和原生JS跨域加载JSON数据或HTML。
- babel的使用详解
- 【莫比乌斯反演】BZOJ2005 [NOI2010]能量采集
- WPF 10天修炼 第三天- Application全局应用程序类
- if语句与switch语句
- LRU 算法
- css3 - 特性
- Logistic Regression Using Gradient Descent -- Binary Classification 代码实现
- Spring3.x错误----Bean named ";txAdvice"; must be of type[org.aopallibance.aop.Advice
- golang日志收集方案之ELK
- Linux 添加yum命令
- C11线程管理:原子变量&;单调函数
- 流程控制--if条件
- PHP+phpMyAdmin编程插入数据显示中文乱码的问题
- JavaScript专题(二)闭包