机器学习第一讲:数学基础

1.  专业术语:

单位矩阵:identity matrix

特征值:eigenvalues

特征向量:eigenvectors

矩阵的秩:rank

对角矩阵:diagonal matrix

对角化矩阵:Diagonalizing a Matrix

正交矩阵:orthogonal matrix

矩阵分解:matrix factorization

奇异值分解:SVD(singular value decomposition)

模:norm

行列式:determinant(det)

jacobian matrix:一阶偏导

Hessian matrix:二阶偏导

2.  关于模

定义:

图片发自简书App

三角不等式待证明。

图片发自简书App

当p趋近于∞时,此时其他的比较小的值可以忽略了,所以此时的l-p norm=max(xn),而图中成立前提是所有的模=1(定值),所以,无穷大时候是正方形

3.vector to tensor

张量。

图片发自简书App


图片发自简书App

特征值与特征向量的动图解释:

http://setosa.io/ev/eigenvectors-and-eigenvalues

矩阵连乘跟算法收敛相关-》详见上面网址的马尔可夫链

特征值在求pca中有用。

3.凸函数 convex,凹函数 concave

f(tx+(1-t)y)≤tf(x)+(1-t)f(y) t在0-1之间。


图片发自简书App

由图可证。

4. 迹和行列式,秩

trace:迹,n*n的对角矩阵中的主对角线(从左上方到右下方)上各元素的总和数被称为矩阵的迹,或者迹数,一般计作tr(A),可用于表示一个物体的相似性,如图像变换。

行列式,|A|,det(A) 是行列式中的行或列向量所构成的超平行多面体的有向面积或者体积。

秩:表示有效方程数,是矩阵中不相关的行向量数和列向量数。

敬请期待后续。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容