Spark2.x AFTSurvivalRegression算法
2024-09-19 06:05:01
Spark2.0的机器学习算法比之前的改变最大的是2.0基本采用了dataframe来实现的，但之前的都是用的RDD，看官网说貌似在3.0的时候RDD就不用了！还有一个就是hiveContext和sqlContext进行了合并，统一是sessioncontext。
在spark.ml中，实现了加速失效时间（AFT）模型，这是一个用于检查数据的参数生存回归模型。 它描述了生存时间对数的模型，因此它通常被称为生存分析的对数线性模型。 不同于为相同目的设计的比例风险模型，AFT模型更容易并行化，因为每个实例独立地贡献于目标函数。
当在具有常量非零列的数据集上匹配AFTSurvivalRegressionModel而没有截距时，Spark MLlib为常量非零列输出零系数。 这种行为不同于R survival :: survreg。
val spark = SparkSession
.builder
.appName("AFTSurvivalRegressionExample").master("local")
.getOrCreate()
AFTSurvivalRegression
#实现了加速失效时间（AFT）模型，这是一个用于检查数据的参数生存回归模型。 它描述了生存时间对数的模型，因此它通常被称为生存分析的对数线性模型
val training = spark.createDataFrame(Seq(
(1.218, 1.0, Vectors.dense(1.560, -0.605)),
(2.949, 0.0, Vectors.dense(0.346, 2.158)),
(3.627, 0.0, Vectors.dense(1.380, 0.231)),
(0.273, 1.0, Vectors.dense(0.520, 1.151)),
(4.199, 0.0, Vectors.dense(0.795, -0.226))
)).toDF("label", "censor", "features")
第一个label表示的是存活的时间，你可以把这个模型看做是预测你能活多长时间的，当然是需要很多方面的参数的
不然就是在扯淡了，虽然这预测听起来很扯淡。。。。。。
第二个censor是结局，1表示死亡，0表示删失数据，病历失访或者尚存活
表现在病人身上就是，你这个人得了一个癌症，根据你的各项指标，用这个模型预测你能活的时间
听起来就很残酷，1表示这个人已经去世，0可能是还活着或者其他因素而没获取到数据
后面的几个参数就是各种病症或者身体情况的症状了，最终都要转化为数据的形式，俗称归一化 分位数概率数组参数。
分位数概率数组的值应在范围内（，）
数组应该是非空的。
val quantileProbabilities = Array(0.3, 0.6)
val aft = new AFTSurvivalRegression()
.setQuantileProbabilities(quantileProbabilities)
#如果设置该列，则会输出相应的分位数概率的分位数
.setQuantilesCol("quantiles")
val model = aft.fit(training) #输出模型的系数 println(s"Coefficients: ${model.coefficients}")
#模型的截距
println(s"Intercept: ${model.intercept}") 源码里面是这个 val scale = math.exp(parameters())
println(s"Scale: ${model.scale}")
Coefficients: [-0.4963111466650707,0.19844437699933098]
Intercept: 2.63809461510401
Scale: 1.5472345574364692
model.transform(training).show(false) +-----+------+--------------+------------------+--------------------------------------+
|label|censor|features |prediction |quantiles |
+-----+------+--------------+------------------+--------------------------------------+
|1.218|1.0 |[1.56,-0.605] |5.718979487635007 |[1.1603238947151664,4.99545601027477] |
|2.949|0.0 |[0.346,2.158] |18.07652118149533 |[3.667545845471739,15.789611866277625]|
|3.627|0.0 |[1.38,0.231] |7.381861804239096 |[1.4977061305190829,6.44796261233896] |
|0.273|1.0 |[0.52,1.151] |13.577612501425284|[2.7547621481506854,11.8598722240697] |
|4.199|0.0 |[0.795,-0.226]|9.013097744073898 |[1.8286676321297826,7.87282650587843] |
+-----+------+--------------+------------------+--------------------------------------+
还可以通过类似sql的方式来选择展示结果
model.transform(training).
selectExpr(
"label", "censor",
"round(prediction,2) as prediction").orderBy("label")
导入包 ：
import org.apache.spark.sql.SparkSession
import org.apache.spark.sql.Dataset
import org.apache.spark.sql.Row
import org.apache.spark.sql.DataFrame
import org.apache.spark.sql.functions._ import org.apache.spark.ml.linalg.Vectors
import org.apache.spark.ml.feature.VectorAssembler
import org.apache.spark.ml.Pipeline
import org.apache.spark.ml.evaluation.RegressionEvaluator
import org.apache.spark.ml.regression.AFTSurvivalRegression
import org.apache.spark.ml.tuning.{ CrossValidator, ParamGridBuilder }
导入样本数据：val spark = SparkSession.builder().appName("Spark Survival regression").config("spark.some.config.option", "some-value").getOrCreate()
// For implicit conversions like converting RDDs to DataFrames
import spark.implicits._ val dataList: List[(Double, Double, Double, Double,Double, Double, Double, Double,Double, Double)] = List(
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , ),
(, , , , , , , , , )) val data = dataList.toDF("label", "censor","race","poverty","smoke","alcohol","agemth","ybirth","yschool","pc3mth").orderBy("label")
建模并调优:
val colArray = Array("race", "poverty", "smoke", "alcohol", "agemth", "ybirth", "yschool", "pc3mth")
val assembler = new VectorAssembler().setInputCols(colArray).setOutputCol("features")
val vecDF: DataFrame = assembler.transform(data)
val Array(trainingDF, testDF) = vecDF.randomSplit(Array(0.7, 0.3))
//###########################
// 建立生存回归模型
val AFT = new AFTSurvivalRegression().setFeaturesCol("features").setLabelCol("label").setCensorCol("censor").fit(trainingDF)
// 设置管道
val pipeline = new Pipeline().setStages(Array(AFT))
// 设置参数网格
val paramGrid = new ParamGridBuilder().addGrid(AFT.maxIter, Array(, , )).addGrid(AFT.tol, Array(1E-, 1E-)).build()
// 选择(prediction, true label)，计算测试误差。
// 注意RegEvaluator.isLargerBetter，评估的度量值是大的好，还是小的好，系统会自动识别
val RegEvaluator = new RegressionEvaluator().setLabelCol(AFT.getLabelCol).setPredictionCol(AFT.getPredictionCol).setMetricName("rmse")
// 设置交叉验证
val cv = new CrossValidator().setEstimator(pipeline).setEvaluator(RegEvaluator).setEstimatorParamMaps(paramGrid).setNumFolds()
// 执行交叉验证，并选择出最好的参数集
val cvModel = cv.fit(trainingDF)
// 查看全部参数
cvModel.extractParamMap()
// cvModel.avgMetrics.length=cvModel.getEstimatorParamMaps.length
// cvModel.avgMetrics与cvModel.getEstimatorParamMaps中的元素一一对应
cvModel.avgMetrics.length
cvModel.avgMetrics // 参数对应的平均度量
cvModel.getEstimatorParamMaps.length
cvModel.getEstimatorParamMaps // 参数组合的集合
cvModel.getEvaluator.extractParamMap() // 评估的参数
cvModel.getEvaluator.isLargerBetter // 评估的度量值是大的好，还是小的好
cvModel.getNumFolds // 交叉验证的折数
//################################
// 测试模型
val predictDF: DataFrame = cvModel.transform(testDF).selectExpr(
//"race","poverty","smoke","alcohol","agemth","ybirth","yschool","pc3mth", "features",
"label", "censor",
"round(prediction,2) as prediction").orderBy("label")
predictDF.show
spark.stop()
代码执行结果 ：
// 查看全部参数
cvModel.extractParamMap()
res2: org.apache.spark.ml.param.ParamMap =
{
cv_baf8c9af33b7-estimator: pipeline_20ba567066f7,
cv_baf8c9af33b7-estimatorParamMaps: [Lorg.apache.spark.ml.param.ParamMap;@412a07c8,
cv_baf8c9af33b7-evaluator: regEval_59075079f1c9,
cv_baf8c9af33b7-numFolds: ,
cv_baf8c9af33b7-seed: -
} // cvModel.avgMetrics.length=cvModel.getEstimatorParamMaps.length
// cvModel.avgMetrics与cvModel.getEstimatorParamMaps中的元素一一对应
cvModel.avgMetrics.length
res3: Int = cvModel.avgMetrics // 参数对应的平均度量
res4: Array[Double] = Array(18.53, 17.53, 19.53, 17.63, 18.53, 18.93) cvModel.getEstimatorParamMaps.length
res5: Int = cvModel.getEstimatorParamMaps // 参数组合的集合
res6: Array[org.apache.spark.ml.param.ParamMap] =
Array({
aftSurvReg_a7e5bc450599-maxIter: ,
aftSurvReg_a7e5bc450599-tol: 0.01
}, {
aftSurvReg_a7e5bc450599-maxIter: ,
aftSurvReg_a7e5bc450599-tol: 1.0E-6
}, {
aftSurvReg_a7e5bc450599-maxIter: ,
aftSurvReg_a7e5bc450599-tol: 0.01
}, {
aftSurvReg_a7e5bc450599-maxIter: ,
aftSurvReg_a7e5bc450599-tol: 1.0E-6
}, {
aftSurvReg_a7e5bc450599-maxIter: ,
aftSurvReg_a7e5bc450599-tol: 0.01
}, {
aftSurvReg_a7e5bc450599-maxIter: ,
aftSurvReg_a7e5bc450599-tol: 1.0E-6
}) cvModel.getEvaluator.extractParamMap() // 评估的参数
res7: org.apache.spark.ml.param.ParamMap =
{
regEval_59075079f1c9-labelCol: label,
regEval_59075079f1c9-metricName: rmse,
regEval_59075079f1c9-predictionCol: prediction
} cvModel.getEvaluator.isLargerBetter // 评估的度量值是大的好，还是小的好
res8: Boolean = false // 这里显示“评估的度量值”是小的好 cvModel.getNumFolds // 交叉验证的折数
res9: Int = //################################
// 测试模型
val predictDF: DataFrame = cvModel.transform(testDF).selectExpr(
| //"race","poverty","smoke","alcohol","agemth","ybirth","yschool","pc3mth", "features",
| "label", "censor",
| "round(prediction,2) as prediction").orderBy("label")
predictDF: org.apache.spark.sql.DataFrame = [label: double, censor: double ... more field] predictDF.show
+-----+------+----------+
|label|censor|prediction|
+-----+------+----------+
| 1.0| 1.0| 15.4|
| 1.0| 1.0| 20.02|
| 1.0| 1.0| 18.73|
| 1.0| 1.0| 21.58|
| 1.0| 1.0| 21.8|
| 1.0| 1.0| 21.8|
| 1.0| 1.0| 14.37|
| 1.0| 1.0| 13.5|
| 1.0| 1.0| 15.82|
| 1.0| 1.0| 19.51|
| 1.0| 1.0| 13.17|
| 1.0| 1.0| 11.9|
| 1.0| 1.0| 17.26|
| 1.0| 1.0| 13.57|
| 1.0| 1.0| 11.57|
| 1.0| 1.0| 13.55|
| 1.0| 1.0| 10.95|
| 1.0| 1.0| 14.92|
| 1.0| 1.0| 12.25|
| 1.0| 1.0| 19.62|
+-----+------+----------+
only showing top rows
最新文章
- 关于break语句如何结束多重循环的嵌套
- MS sql server 基础知识回顾（二）-表连接和子查询
- 设计模式之美：Creational Patterns（创建型模式）
- ubnutu安装sougou 输入法
- 【转】ASP.NET中服务器控件Table动态生成表格及其属性介绍
- php随笔9-thinkphp OA系统 集成UEditor
- incallui中如何查询联系人数据
- jQuery给CheckBox全选与不全选
- ABP module-zero +AdminLTE+Bootstrap Table+jQuery权限管理系统第十六节--SignalR与ABP框架Abp.Web.SignalR及扩展
- selenium +python+windows 环境搭建
- 出错信息：Incorrect string value: '\xE4\xBD\xA0\xE5\xA5\xBD' for column 'username'
- cf438E. The Child and Binary Tree(生成函数 多项式开根 多项式求逆)
- 解决项目无法添加VBIDE问题
- Srorm并发机制
- wParam与lParam的区别
- js中的循环
- codeforces 261B Maxim and Restaurant(概率DP)
- 【BZOJ 2440】 2440: [中山市选2011]完全平方数 （二分+容斥原理+莫比乌斯函数）
- 自定义规则，对List<Map<String,Object>> List<Object>进行排序
- C#小票打印机动态纸张尺寸