线性代数之SVD与PCA
2024-08-28 11:33:19
[作者:byeyear Email:east3@163.com 首发www.cnblogs.com 转载请注明]
回忆学校的美好时光,一起来复习下曾经的课程吧。
1. SVD推荐ams上的一篇文章:
http://www.ams.org/samplings/feature-column/fcarc-svd
下面的文字为简短摘要。
我们知道,如果矩阵A有一组特征值λk和特征向量vk,那么下式成立:
Avk=λvk
矩阵的奇异值σ满足类似的式子,如下所示:
Avk=σkuk
各单位向量vk相互正交;各单位向量uk也相互正交。
以二阶矩阵为例,它有两个奇异值σ1,σ2:
Av1=σ1u1
Av2=σ2u2
v1和v2正交,u1和u2正交,且均为单位向量。对于R2中的任意向量x,若将其投影到span{v1,v2},那么:
Ax=A[(v1·x)v1+(v2·x)v2]
=(v1·x)Av1+(v2·x)Av2
=(v1·x)σ1u1+(v2·x)σ2u2
=u1σ1v1Tx+u2σ2v2Tx // 此处利用了mTnp=pmTn,p,m,n为同阶向量
因此A=u1σ1v1T+u2σ2v2T
写成更一般的矩阵形式,就是:
A=UΣV
其中:
A是mxn矩阵
U=[u1 u2 ... um],是mxm方阵
Σ是主对角线为σ1 ... σn的mxn准对角矩阵
V=[v1 v2 ... vn],是nxn方阵
最新文章
- 图片采用base64压缩,可以以字符串的形式传送base64给服务端转存为图片
- TinyFrame系列:基于EFCodeFirst,IOC,AOP的轻型框架
- ThinkCmfX模板常量
- 单元测试与Nunit的基本使用
- java的静态代理和动态代理(jdk、cglib)
- Python 基础练习
- 20135220谈愈敏Blog8_进程的切换和系统的一般执行过程
- php的数据访问
- .NET4安装总进度一直不动的解决办法
- Unity3d导入工程出现错误“Creating unique file”的解决方法
- Jquery AutoComplete实现搜索自动完成
- SQL Server多表同时查询
- fatal error C1083: Cannot open precompiled header file: 'Debug/xxoo.pch': No such file or directory
- 【配置阿里云 I】申请配置阿里云服务器,并部署IIS和开发环境,项目上线经验
- PHP中使用jQuery+Ajax实现分页查询多功能操作
- java jdbc->;mycat->;oracle SqlException异常中文信息乱码解决
- synchronized(四)
- [leetcode 120]triangle 空间O(n)算法
- Redis客户端连接
- django时间的时区问题
热门文章
- learning docker steps(5) ----- docker stack 初次体验
- HDU 4791 Alice's Print Service 思路,dp 难度:2
- PHP excel reader , excel时间转成php时间格式
- 数据结构(C语言)关于查找与排序
- 201621123010《Java程序设计》第9周学习总结
- C++基础:什么是命名空间
- REST easy with kbmMW #4 – Access management
- 内网dns劫持
- [ML] 解决样本类别分布不均衡的问题
- [LeetCode&;Python] Problem 868. Binary Gap