Deflation Methods for Sparse PCA
目录
背景
有很多Sparse PCA 算法运用了收缩算法,但是呢,往往只考虑如何解决,每一次迭代的稀疏化问题,而忽略了收缩算法的选择。
总括
Hotelling's deflation
公式
\(A_t = A_{t-1}-x_tx_t^{\mathrm{T}}A_{t-1}x_tx_t^{\mathrm{T}}\)
特点
如果\(x_t\)是\(A_{t-1}\)的特征向量
那么
\(A_tx_t = (A_{t-1}-x_tx_t^{\mathrm{T}}A_{t-1}x_tx_t^{\mathrm{T}})x_t =0\)
所以,\(x_t\)依然是A_t的特征值为0所对应的特征向量。
但是,如果\(x_t\)不是特征向量,\(A_tx_t=0\)这个性质就不存在了,而且,\(A_t\)不一定是半正定矩阵。
Projection deflation
公式
\(A_t = (I-x_tx_t^{\mathrm{T}})A_{t-1}(I-x_tx_t^{\mathrm{T}})\)
特点
半正定
假设\(A_{t-1}\)是半正定的。那么,对于任意的\(x\)
\(x^{\mathrm{T}}A_tx = [x^{\mathrm{T}}(I-x_tx_t^{\mathrm{T}})]A_{t-1}[(I-x_tx_t^{\mathrm{T}})x]\geq0\)
另外\(A_tx_t=0\)
\(A_tx_t=(I-x_tx_t^{\mathrm{T}})A_{t-1}(I-x_tx_t^{\mathrm{T}})x_t=0\)
不过,\(A_sx_t \quad s>t\)的值往往不是0
Schur complement deflation
Orthogonalized projection deflation
公式
\(A_t = (I-\mathcal{P}^{(t)})A(I-\mathcal{P}^{(t)})\)
\(\mathcal{P}^{(t)}\)是投影矩阵,满足:
\(\mathcal{P}^{(t)\mathrm{T}}\mathcal{P}^{(t)}=\mathcal{P}^{(t)}\)
\(\mathcal{P}^{(t)}\mathcal{P}^{(t)}=\mathcal{P}^{(t)}\)
若
\(X=[x_1,x_2,\ldots,x_t]=QR\)
则:
\(\mathcal{P}^{(t)}=Q_{1...t}Q_{1...t}^{\mathrm{T}}\)(假设X的秩为t)
其中\(Q_{1...t}\)为\(Q\)的前t列。
Orthogonalized Hotelling's deflation
公式
\(A_t = A_{t-1} - q_tq_t^{\mathrm{T}}A_{t-1}q_tq_t^{\mathrm{T}}\)
\(q_t=\frac{(I-\mathcal{P}^{(t-1)})x_t}{\|(I-\mathcal{P}^{(t-1)})x_t\|}\)
特点
XXX
最新文章
- [每日Linux]Linux下xsell和xftp的使用
- C++联合
- freemarker如何遍历HashMap
- java基础知识回顾之javaIO类总结
- spring注入简记
- POJ3280 - Cheapest Palindrome(区间DP)
- http知识累积
- QNetworkAccessManager跳转URL处理(使用QNetworkRequest::RedirectionTargetAttribute获得跳转URL)
- UIScrollView方法 属性详解
- cct信息安全
- POJ 1308/并查集
- HttpRuntime.Cache .Net自带的缓存类
- iReport 5.6.0 启动闪退的问题 解决方案
- Hbase思维导图之物理模型
- LeetCode 60 第K个排列
- vc下项目的头文件包含目录以及库导入预计库目录设置
- 转Python SciPy库——拟合与插值
- SQL Server SqlCacheDependency 缓存依赖
- 推荐10款优秀的JavaScript Web UI库 框架和套件
- 你了解border-radius吗?
热门文章
- 前后端分离djangorestframework——权限组件
- 语句调优基础知识-set statistics io on
- SSM 框架 ---项目整合
- IO Redirect 与 Pipe
- Ubuntu教程
- Ajax的一个实例及代码
- Hadoop2.7.6_01_部署
- layui form.on('select(xxx)',function(){});绑定失败
- c#基础知识之 Dataset 索引0没有值
- Nginx 的 TCP 负载均衡介绍