# -*- coding: utf-8 -*- """ ############################################################################### # 作者:wanglei5205 # 邮箱:wanglei5205@126.com # 代码:http://github.com/wanglei5205 # 博客:http://cnblogs.com/wanglei5205 # 目的:学习xgboost的plot

Titanic 数据集是从 kaggle下载的,下载地址:https://www.kaggle.com/c/titanic/data 数据一共又3个文件,分别是:train.csv,test.csv,gender_submission.csv 先把需要视同的库导入: import os import datetime import operator import numpy as np import pandas as pd import xgboost as xgb from sklearn.

Titanic 数据集是从 kaggle下载的,下载地址:https://www.kaggle.com/c/titanic/data 数据一共又3个文件,分别是:train.csv,test.csv,gender_submission.csv 先把需要视同的库导入: import os import datetime import operator import numpy as np import pandas as pd import xgboost as xgb from sklearn.

from xgboost import XGBClassifier XGBClassifier(max_depth=3,learning_rate=0.1,n_estimators=100,silent=True,objective='binary:logistic', booster='gbtree',n_jobs=1,nthread=None,gamma=0,min_child_weight=1, max_delta_step=0, subsample=1, colsample_bytree

import pandas as pd import xgboost as xgb import operator from matplotlib import pylab as plt def ceate_feature_map(features): outfile = open('xgb.fmap', 'w') i = 0 for feat in features: outfile.write('{0}\t{1}\tq\n'.format(i, feat)) i = i + 1 outfil

1. 特征选择的思维导图 2. XGBoost特征选择算法 (1)  XGBoost算法背景 2016年,陈天奇在论文< XGBoost:A Scalable Tree Boosting System>中正式提出该算法.XGBoost的基本思想和GBDT相同,但是做了一些优化,比如二阶导数使损失函数更精准:正则项避免树过拟合:Block存储可以并行计算等.XGBoost具有高效.灵活和轻便的特点,在数据挖掘.推荐系统等领域得到广泛的应用. (2) 算法原理 (3) 算法实现--python f

sklearn实战-乳腺癌细胞数据挖掘(博主亲自录制视频) https://study.163.com/course/introduction.htm?courseId=1005269003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share xgboost官网教程 https://xgboost.readthedocs.io/en/latest/python/python_intro.htm

昨天总结了深度学习的资料,今天把机器学习的资料也总结一下(友情提示:有些网站需要"科学上网"^_^) 推荐几本好书: 1.Pattern Recognition and Machine Learning (by Hastie, Tibshirani, and Friedman's ) 2.Elements of Statistical Learning(by Bishop's) 这两本是英文的,但是非常全,第一本需要有一定的数学基础,第可以先看第二本.如果看英文觉得吃力,推荐看一下下面

Otto Product Classification Winner's Interview: 2nd place, Alexander Guschin ¯\_(ツ)_/¯ The Otto Group Product Classification Challenge made Kaggle history as our most popular competition ever. Alexander Guschin finished in 2nd place ahead of 3,845 ot

​Python作为程序员的宠儿,得到了越来越多人的关注,使用Python进行应用程序开发的越来也多.那么,Python有哪些高大上的项目?这里有十个: 1.NuPIC 它是一个以HTM学习算法为工具的机器智能平台.HTM是皮层的精确计算方法.HTM的核心是基于时间的持续学习算法和储存和撤销的时空模式.NuPIC适合于各种各样的问题,尤其是检测异常和预测的流数据来源. 2.Hebel 它是在Python语言中对于神经网络的深度学习的一个库程序,使用的是通过PyCUDA来进行GPU和CUDA的加速.

我们在Github上的贡献者和提交者之中检查了用Python语言进行机器学习的开源项目,并挑选出最受欢迎和最活跃的项目. 1. Scikit-learn(重点推荐) www.github.com/scikit-learn/scikit-learn Scikit-learn 是基于Scipy为机器学习建造的的一个Python模块,他的特色就是多样化的分类,回归和聚类的算法包括支持向量机,逻辑回归,朴素贝叶斯分类器,随机森林,Gradient Boosting,聚类算法和DBSCAN.而且也设计出了

预处理 离散化 等值分箱 等量分箱 独热 one-hot 标准化 最小最大 min-max z-score l2 标准化 归一化 特征选择 ANOVA 信息增益/信息增益率 模型验证 评价指标 回归 MSE R 方 分类 准确率 精确率 召回率 F1 得分 宏平均 F1 微平均 F1 聚类 互信息 轮廓距离 交叉验证 K 折 网格搜索 最优化方法 梯度下降 随机梯度下降 SGD 牛顿法/拟牛顿法 动量法 RMSProp Adam 传统机器学习 基本概念 欠拟合/过拟合 距离 汉明距离 曼哈顿距离

pythonic 风格编码 入门python好博客 进阶大纲 有趣的灵魂 老齐的教程 老齐还整理了很多精华 听说 fluent python + pro python 这两本书还不错! 元组三种遍历,有点像回字有四种写法一样...苦笑 for index in range(0,len(tuple_1)): ... print(tuple_1[index]) >>> for index in range(0,len(tuple_1)): ... print('{}--{}'.format(

https://www.jianshu.com/p/4140be00d4e3 题目描述 建模方法 特征工程 我的几次提升方法 从其他队伍那里学习到的提升方法 总结和感想 神经网络方法的一点思考 大数据量与分布式计算的一点思考 参加比赛和学习知识的对比 最后的感受 趣事 写在前面 我是一个之前PhD做分布式计算.虚拟机调度,毕业之后年初才转ML的家伙,自恃有点学习开发能力和混迹ICPC竞赛的底子,对数据还有些敏感度,有那么几个可以跟着学习的人,斗胆在5月底开始利用业余时间玩一玩. 最后的成绩是预赛

1. Scikit-learn Scikit-learn 是基于Scipy为机器学习建造的的一个Python模块,他的特色就是多样化的分类,回归和聚类的算法包括支持向量机,逻辑回归,朴素贝叶斯分类器,随机森林,Gradient Boosting,聚类算法和DBSCAN.而且也设计出了Python numerical和scientific libraries Numpy and Scipy2.Pylearn2 Pylearn是一个让机器学习研究简单化的基于Theano的库程序.3.NuPIC Nu

翻译自 <Python学习手册(第5版)> Systems Programming Python 对操作系统服务的内置接口使其非常适合编写可移植.可维护的系统管理工具和实用程序 utilities (有时称为 shell 工具).Python 程序可以搜索文件和目录树.启动其他程序.使用进程和线程进行并行处理等等. Python 的标准库带有 POSIX 绑定和对所有常用 OS 工具的支持: 环境变量.文件.套接字.管道.进程.多线程.正则表达式模式匹配.命令行参数.标准流接口.shell 命

SparkML中关于特征的算法可分为:Extractors(特征提取).Transformers(特征转换).Selectors(特征选择)三部分. Ref: SparkML中三种特征选择算法(VectorSlicer/RFormula/ChiSqSelector) 一.代码示范 VectorSlicer 只是根据index而“手动指定特征”的手段,不是特征选择的依据. RFormula 也只是根据column而“手动指定特征”的手段,不是特征选择的依据. VectorSlicerfrom py

GitHub最著名的20个Python机器学习项目 我们分析了GitHub上的前20名Python机器学习项目,发现scikit-Learn,PyLearn2和NuPic是贡献最积极的项目.让我们一起在Github上探索这些流行的项目! Scikit-learn:Scikit-learn 是基于Scipy为机器学习建造的的一个Python模块,他的特色就是多样化的分类,回归和聚类的算法包括支持向量机,逻辑回归,朴素贝叶斯分类器,随机森林,Gradient Boosting,聚类算法和DBSCAN

20 个顶尖的 Python 机器学习开源项目 机器学习 2015-06-08 22:44:30 发布 您的评价: 0.0 收藏 1收藏 我们在Github上的贡献者和提交者之中检查了用Python语言进行机器学习的开源项目,并挑选出最受欢迎和最活跃的项目.” 图1:在GitHub上用Python语言机器学习的项目,图中颜色所对应的Bob, Iepy, Nilearn, 和NuPIC拥有最高的价值. 1. Scikit-learn www.github.com/scikit-learn/scik

运气很好进入了天池的一个复赛,但是复赛评测时需要提交docker镜像,捣鼓了一个晚上,终于搞清了整套的流程．由于晚上已经下定决心要早点睡觉,害怕明早就会忘记的我还是先把步骤记录下来． 1. 安装docker环境 2. 开通阿里云容器镜像服务 这个参考天池官方教程即可 3.重点 3.1 拉取一个python3的基本镜像到本地 docker pull registry.cn-shanghai.aliyuncs.com/tcc-public/python:3 此时在命令行下敲击docker image

# 常规参数 booster gbtree 树模型做为基分类器(默认) gbliner 线性模型做为基分类器 silent silent=0时,不输出中间过程(默认) silent=1时,输出中间过程 nthread nthread=-1时,使用全部CPU进行并行运算(默认) nthread=1时,使用1个CPU进行运算. scale_pos_weight 正样本的权重,在二分类任务中,当正负样本比例失衡时,设置正样本的权重,模型效果更好.例如,当正负样本比例为1:10时,scale_pos_w