Linear algebra

Conjugate gradient method - direct method

共軛梯度法 (CG method, conjugate gradient method) 目錄: CG method - Direct mehtod 直接法 CG method - iterate mehtod 迭代法 For solving $Ax=b$, where $A$ is a square symmetric positive definite matrix. Assumptions: $A\in M_{n\times n}$ is a symmetric positive definite matrix. Definition: A-orthogonal (A-conjugate) 假設有兩個向量 $u_1$ 跟 $u_2$ 皆非 $0$ 且 $u_1 \neq

Diffusion maps

擴散映射, Diffusion maps (以下簡稱 DM), 是個資料分析, 流型學習或是資料降維的工具. 這裡我們要介紹以 julia 來做 diffusion maps 降維. Algorithm - diffusion maps embeding 先簡單介紹一下作法. 假設我們有

主成分分析 - 2

這裡我們補充一下主成分分析裡的證明部分. 假設我們有 $n$ 筆 $p$ 維的資料, 記成 $$ \{x_1, x_2, \cdots, x_n\} \in R^p. $$ 假設想要投影到 $k$ 維, $k\le p$, 數學上來說就是想要找到 $\mu$, $U$ 以及

Multidimensional scaling

Multidimensional scaling, 簡稱 MDS, 是個資料分析或是資料降維的工具. 這裡我們要談一下從數學角度來說 MDS 的原理及做法, 更精確的說, 這裡講的是 classical MDS. 假設我們有 $n$ 筆 $p$ 維的資料,

主成分分析

主成分分析, Principal component analysis, 簡稱 PCA, 是個資料分析或是資料降維的工具. 資料降維簡單來說, 假設我們有一些資料, 這資料中的每一筆維度都很高, 導致我們很難 &ld

擲硬幣問題

重複擲一枚硬幣, 當出現連續兩次為正時停止, 平均要扔幾次? 第一種做法: 窮舉法 我們以正負號 (+ -) 代表正面反面. 觀察 假設花 $n$ 次才擲到連續兩次為正, $n