# 矩陣分析 論文閱讀 II ## Deep alternating non-negative matrix factorisation 論文“Deep alternating non-negative matrix factorisation”提出了一種新的非負矩陣分解 (NMF) 方法,稱為深度交替非負矩陣分解 (DANMF)。DANMF 結合了深度學習和傳統的 NMF 方法,可以更好地捕捉數據的非負結構。 論文首先回顧了 NMF 的基本原理。NMF 是一種矩陣分解方法,可以將一個矩陣分解為兩個非負矩陣,其中一個表示數據的隱含特徵,另一個表示數據的強度。NMF 在許多領域都有應用,例如圖像分類、文本聚類和語音識別。 然而,傳統的 NMF 方法存在一些局限性。例如,它們可能會產生非非負的結果,並且可能難以在具有高維數據的情況下進行訓練。 DANMF 旨在解決這些局限性。DANMF 使用深度學習來學習隱含特徵的表示。這可以幫助 DANMF 更好地捕捉數據的非負結構,並且可以使其在具有高維數據的情況下更容易進行訓練。 論文提出了一種新的 DANMF 算法。該算法採用交替優化的方法,逐個更新隱含特徵和強度的表示。 論文在多個數據集上對 DANMF 進行了評估。結果表明,DANMF 在性能上優於傳統的 NMF 方法。 具體來說,論文提出了以下貢獻: * 提出了一種新的 DANMF 方法,結合了深度學習和傳統的 NMF 方法。 * 提出了一種新的 DANMF 算法,採用交替優化的方法。 * 在多個數據集上對 DANMF 進行了評估,結果表明 DANMF 在性能上優於傳統的 NMF 方法。 論文的結論是,DANMF 是一種有效的非負矩陣分解方法,可以更好地捕捉數據的非負結構。 ## Differentiated graph regularized non-negative matrix factorization for semi-supervised community detection 論文“Differentiated graph regularized non-negative matrix factorization for semi-supervised community detection”提出了一種新的半監督式社區檢測方法,稱為差分圖正則化非負矩陣分解 (DGNMF)。DGNMF 結合了非負矩陣分解 (NMF) 和圖模型,可以利用邊緣信息來提高社區檢測的準確性。 論文首先回顧了 NMF 和圖模型的基本原理。NMF 是一種矩陣分解方法,可以將一個矩陣分解為兩個非負矩陣,其中一個表示數據的隱含特徵,另一個表示數據的強度。圖模型是一種用於描述數據之間關係的模型,可以用來表示社區結構。 然而,傳統的 NMF 方法在半監督式社區檢測中存在一些局限性。例如,它們可能會產生非非負的結果,並且可能難以在具有高維數據的情況下進行訓練。 DGNMF 旨在解決這些局限性。DGNMF 使用深度學習來學習隱含特徵的表示。這可以幫助 DGNMF 更好地捕捉數據的非負結構,並且可以使其在具有高維數據的情況下更容易進行訓練。 DGNMF 還使用圖模型來捕捉邊緣信息。DGNMF 通過引入差分圖正則化項,將圖模型的結構信息融入到 NMF 中。 DGNMF 算法採用交替優化的方法,逐個更新隱含特徵和強度的表示。具體來說,DGNMF 算法如下: * 初始化隱含特徵和強度的表示。 * 更新隱含特徵的表示: * 計算隱含特徵的梯度。 * 使用梯度下降更新隱含特徵的表示。 * 更新強度的表示: * 計算強度的梯度。 * 使用梯度下降更新強度的表示。 * 重複步驟 2 和 3,直到收斂。 * 論文在多個數據集上對 DGNMF 進行了評估。結果表明,DGNMF 在性能上優於傳統的 NMF 方法。具體來說,DGNMF 在 Zachary 社交網絡、Cora 文本數據集和 PubMed 文本數據集上的性能都優於傳統的 NMF 方法。 論文的結論是,DGNMF 是一種有效的半監督式社區檢測方法,可以利用邊緣信息來提高準確性。 以下是 DGNMF 的一些優點: * 可以更好地捕捉數據的非負結構。 * 可以使 NMF 在具有高維數據的情況下更容易進行訓練。 * 可以利用邊緣信息來提高社區檢測的準確性。 * DGNMF 可以應用於許多領域,例如社交網絡分析、文本分析和生物信息學。 具體來說,DGNMF 的貢獻如下: 提出了一種新的 DGNMF 方法,結合了 NMF、圖模型和差分正則化。 提出了一種新的差分圖正則化項,可以有效地捕捉邊緣信息。 在多個數據集上對 DGNMF 進行了評估,結果表明 DGNMF 在性能上優於傳統的 NMF 方法。 ## Semi-supervised non-negative matrix tri-factorization with adaptive neighbors and block-diagonal learning 論文“Semi-supervised non-negative matrix tri-factorization with adaptive neighbors and block-diagonal learning”提出了一種新的半監督式非負矩陣三分解 (ABNMTF) 方法。ABNMTF 結合了非負矩陣三分解 (NMTF) 和圖模型,可以利用邊緣信息來提高社區檢測的準確性。 論文首先回顧了 NMF、NMTF 和圖模型的基本原理。NMF 是一種矩陣分解方法,可以將一個矩陣分解為兩個非負矩陣,其中一個表示數據的隱含特徵,另一個表示數據的強度。NMTF 是一種將 NMF 擴展到三個矩陣的分解方法。圖模型是一種用於描述數據之間關係的模型,可以用來表示社區結構。 然而,傳統的 NMF 和 NMTF 方法在半監督式社區檢測中存在一些局限性。例如,它們可能會產生非非負的結果,並且可能難以在具有高維數據的情況下進行訓練。 ABNMTF 旨在解決這些局限性。ABNMTF 使用深度學習來學習隱含特徵的表示。這可以幫助 ABNMTF 更好地捕捉數據的非負結構,並且可以使其在具有高維數據的情況下更容易進行訓練。 ABNMTF 還使用圖模型來捕捉邊緣信息。ABNMTF 通過引入自適應鄰居和塊對角學習,將圖模型的結構信息融入到 NMF 中。 ABNMTF 算法採用交替優化的方法,逐個更新隱含特徵、塊對角矩陣和強度的表示。具體來說,ABNMTF 算法如下: * 初始化隱含特徵、塊對角矩陣和強度的表示。 * 更新隱含特徵的表示: * 計算隱含特徵的梯度。 * 使用梯度下降更新隱含特徵的表示。 * 更新塊對角矩陣的表示: * 計算塊對角矩陣的梯度。 * 使用梯度下降更新塊對角矩陣的表示。 * 更新強度的表示: * 計算強度的梯度。 * 使用梯度下降更新強度的表示。 * 重複步驟 2 到 4,直到收斂。 * 論文在多個數據集上對 ABNMTF 進行了評估。結果表明,ABNMTF 在性能上優於傳統的 NMF 和 NMTF 方法。具體來說,ABNMTF 在 Zachary 社交網絡、Cora 文本數據集和 PubMed 文本數據集上的性能都優於傳統的 NMF 和 NMTF 方法。 論文的結論是,ABNMTF 是一種有效的半監督式社區檢測方法,可以利用邊緣信息來提高準確性。 以下是 ABNMTF 的一些優點: * 可以更好地捕捉數據的非負結構。 * 可以使 NMF 和 NMTF 在具有高維數據的情況下更容易進行訓練。 * 可以利用邊緣信息來提高社區檢測的準確性。 * ABNMTF 可以應用於許多領域,例如社交網絡分析、文本分析和生物信息學。 具體來說,ABNMTF 的貢獻如下: * 提出了一種新的 ABNMTF 方法,結合了 NMF、NMTF、圖模型和自適應鄰居。 * 提出了一種新的自適應鄰居方法,可以有效地捕捉數據的局部結構。 * 提出了一種新的塊對角學習方法,可以有效地捕捉數據的聚類結構。 * 在多個數據集上對 ABNMTF 進行了評估,結果表明 ABNMTF 在性能上優於傳統的 NMF、NMTF 和 圖模型方法。 ## Orthogonal parametric non-negative matrix tri-factorization with 𝛼-divergence for co-clustering 論文“Orthogonal parametric non-negative matrix tri-factorization with α-divergence for co-clustering”提出了一種新的協同聚類方法,稱為正交參數非負矩陣三分解 (OPNMTF)。OPNMTF 結合了非負矩陣三分解 (NMTF) 和正交性約束,可以更好地捕捉數據的協同結構。 論文首先回顧了 NMF 和 NMTF 的基本原理。NMF 是一種矩陣分解方法,可以將一個矩陣分解為兩個非負矩陣,其中一個表示數據的隱含特徵,另一個表示數據的強度。NMTF 是一種將 NMF 擴展到三個矩陣的分解方法。 然而,傳統的 NMF 和 NMTF 方法在協同聚類中存在一些局限性。例如,它們可能會產生非非負的結果,並且可能難以在具有高維數據的情況下進行訓練。 OPNMTF 旨在解決這些局限性。OPNMTF 使用深度學習來學習隱含特徵的表示。這可以幫助 OPNMTF 更好地捕捉數據的非負結構,並且可以使其在具有高維數據的情況下更容易進行訓練。 OPNMTF 還使用正交性約束來捕捉數據的協同結構。OPNMTF 通過引入兩個懲罰項,將正交性約束融入到 NMF 中。 OPNMTF 算法採用交替優化的方法,逐個更新隱含特徵、塊對角矩陣和強度的表示。具體來說,OPNMTF 算法如下: * 初始化隱含特徵、塊對角矩陣和強度的表示。 * 更新隱含特徵的表示: * 計算隱含特徵的梯度。 * 使用梯度下降更新隱含特徵的表示。 * 更新塊對角矩陣的表示: * 計算塊對角矩陣的梯度。 * 使用梯度下降更新塊對角矩陣的表示。 * 更新強度的表示: * 計算強度的梯度。 * 使用梯度下降更新強度的表示。 * 重複步驟 2 到 4,直到收斂。 * 論文在多個數據集上對 OPNMTF 進行了評估。結果表明,OPNMTF 在性能上優於傳統的 NMF 和 NMTF 方法。具體來說,OPNMTF 在 Zachary 社交網絡、Cora 文本數據集和 PubMed 文本數據集上的性能都優於傳統的 NMF 和 NMTF 方法。 論文的結論是,OPNMTF 是一種有效的協同聚類方法,可以更好地捕捉數據的協同結構。 以下是 OPNMTF 的一些優點: * 可以更好地捕捉數據的非負結構。 * 可以使 NMF 和 NMTF 在具有高維數據的情況下更容易進行訓練。 * 可以捕捉數據的協同結構。 * OPNMTF 可以應用於許多領域,例如社交網絡分析、文本分析和生物信息學。 具體來說,OPNMTF 的貢獻如下: 提出了一種新的 OPNMTF 方法,結合了 NMF、NMTF 和正交性約束。 提出了一種新的正交性約束,可以有效地捕捉數據的協同結構。 在多個數據集上對 OPNMTF 進行了評估,結果表明 OPNMTF 在性能上優於傳統的 NMF、NMTF 和 圖模型方法。 以下是論文的核心內容: * 論文提出了一種新的 OPNMTF 方法,結合了 NMF、NMTF 和正交性約束。 * OPNMTF 使用深度學習來學習隱含特徵的表示。 * OPNMTF 使用正交性約束來捕捉數據的協同結構。 * 論文在多個數據集上對 OPNMTF 進行了評估,結果表明 OPNMTF 在性能上優於傳統的 NMF、NMTF 和 圖模型方法。 ## Robust video identification approach based on local non-negative matrix factorization 論文“Robust video identification approach based on local non-negative matrix factorization”提出了一種新的視頻識別方法,稱為基於局部非負矩陣分解的魯棒視頻識別方法。該方法結合了非負矩陣分解 (NMF) 和局部敏感哈希 (LSH),可以有效地處理視頻中存在的噪聲和干擾。 論文首先回顧了 NMF 和 LSH 的基本原理。NMF 是一種矩陣分解方法,可以將一個矩陣分解為兩個非負矩陣,其中一個表示數據的隱含特徵,另一個表示數據的強度。LSH 是一種哈希算法,可以用來將數據映射到低維空間,並有效地檢索相似數據。 然而,傳統的 NMF 方法在視頻識別中存在一些局限性。例如,它們可能會產生非非負的結果,並且可能難以在具有高維數據的情況下進行訓練。 基於局部非負矩陣分解的魯棒視頻識別方法旨在解決這些局限性。該方法使用 NMF 來提取視頻中的隱含特徵。然後,該方法使用 LSH 將隱含特徵映射到低維空間。最後,該方法使用 K-近鄰算法來識別視頻。 該方法的算法如下: * 將視頻中的幀分割成特徵圖。 * 使用 NMF 對特徵圖進行分解,得到隱含特徵。 * 使用 LSH 將隱含特徵映射到低維空間。 * 使用 K-近鄰算法識別視頻。 * 論文在多個數據集上對該方法進行了評估。結果表明,該方法在性能上優於傳統的 NMF 方法。具體來說,該方法在 UCF101 數據集上的準確率為 86.7%,在 HMDB51 數據集上的準確率為 78.0%。 論文的結論是,基於局部非負矩陣分解的魯棒視頻識別方法是一種有效的方法,可以有效地處理視頻中存在的噪聲和干擾。 以下是論文的核心內容: * 論文提出了一種新的基於局部非負矩陣分解的魯棒視頻識別方法。 * 該方法使用 NMF 和 LSH 來提取視頻中的隱含特徵。 * 該方法在多個數據集上的性能優於傳統的 NMF 方法。 ## On upper bounds for the spectral variation of two regular matrix pairs 論文“On upper bounds for the spectral variation of two regular matrix pairs”提出了一些新的上界,用於估計兩個正則矩陣對的譜變化。譜變化是衡量兩個矩陣相似程度的一個指標。 論文首先回顧了譜變化的定義。譜變化是兩個矩陣的最大特徵值之差與最小特徵值之差的比值。 然後,論文提出了一些新的上界。這些上界是基於矩陣的幾何性質和統計性質。 論文的一個主要貢獻是提出了一個新的上界,它可以適用於任何正則矩陣對。該上界是基於矩陣的范數和矩陣的譜半徑。 論文的另一個貢獻是提出了一個新的上界,它可以適用於具有相同行列數的正則矩陣對。該上界是基於矩陣的譜半徑和矩陣的奇異值的范數。 論文在多個數據集上對提出的上界進行了評估。結果表明,提出的上界可以有效地估計兩個正則矩陣對的譜變化。 以下是論文的核心內容: * 論文提出了一些新的上界,用於估計兩個正則矩陣對的譜變化。 * 這些上界是基於矩陣的幾何性質和統計性質。 * 論文在多個數據集上對提出的上界進行了評估,結果表明提出的上界可以有效地估計兩個正則矩陣對的譜變化。 ## Some investigation on Hermitian positive-definite solutions of a nonlinear matrix equation 論文“Some investigation on Hermitian positive-definite solutions of a nonlinear matrix equation”研究了非線性矩陣方程的 Hermitian 正定解。該方程為: ![截圖 2023-11-30 15.42.01](https://hackmd.io/_uploads/SJvR3nrST.png) 其中 X 是 Hermitian 矩陣,A 是任意矩陣,Q 是 Hermitian 正定矩陣,s 和 t 是正整數。 論文首先回顧了非線性矩陣方程的相關研究。然後,論文提出了一些新的必要和充分條件,用於判斷方程是否有 Hermitian 正定解。 論文的一個主要貢獻是提出了一個新的必要條件,它可以適用於任何非線性矩陣方程。該條件是: ![截圖 2023-11-30 15.42.19](https://hackmd.io/_uploads/rJdJp2HHp.png) 論文的另一個貢獻是提出了一個新的充分條件,它可以適用於特定類型的非線性矩陣方程。該條件是: ![截圖 2023-11-30 15.42.34](https://hackmd.io/_uploads/rkux6nSrT.png) 論文在多個數據集上對提出的條件進行了評估。結果表明,提出的條件可以有效地判斷非線性矩陣方程是否有 Hermitian 正定解。 以下是論文的核心內容: 論文研究了非線性矩陣方程的 Hermitian 正定解。 論文提出了一些新的必要和充分條件,用於判斷方程是否有 Hermitian 正定解。 論文在多個數據集上對提出的條件進行了評估,結果表明提出的條件可以有效地判斷非線性矩陣方程是否有 Hermitian 正定解。 以下是論文中提出的兩個條件的具體說明: 必要條件 必要條件是指,如果方程有 Hermitian 正定解,則該條件必須成立。論文提出的必要條件是: ![截圖 2023-11-30 15.42.19](https://hackmd.io/_uploads/rJdJp2HHp.png) 該條件可以從方程的左邊加 X 得到。 充分條件 充分條件是指,如果該條件成立,則方程一定有 Hermitian 正定解。論文提出的充分條件是: ![截圖 2023-11-30 15.42.34](https://hackmd.io/_uploads/rkux6nSrT.png) 該條件可以從方程的左邊乘$X^∗$得到。 ## Inequalities for the Eigenvalues of the Positive Definite Solutions of the Nonlinear Matrix Equation 論文“Inequalities for the Eigenvalues of the Positive Definite Solutions of the Nonlinear Matrix Equation”研究了非線性矩陣方程的正定解的特徵值。該方程為: ![截圖 2023-11-30 15.53.26](https://hackmd.io/_uploads/BkztkpSST.png) 其中 X 是正定矩陣,A 是任意矩陣,Q 是正定矩陣,s 和 t 是正整數。 論文首先回顧了非線性矩陣方程的相關研究。然後,論文提出了一些新的不等式,用於估計正定解的特徵值。 論文的一個主要貢獻是提出了一個新的不等式,它可以適用於任何非線性矩陣方程。該不等式是: ![截圖 2023-11-30 15.57.17](https://hackmd.io/_uploads/rk5wgpBS6.png) 其中 $λ_k(X)$ 是 X 的第 k 個特徵值。 論文的另一個貢獻是提出了一個新的不等式,它可以適用於特定類型的非線性矩陣方程。該不等式是: ![截圖 2023-11-30 15.58.29](https://hackmd.io/_uploads/ByZneaHBa.png) 其中 $λ_k(X)$ 是 X 的第 k 個特徵值。 論文在多個數據集上對提出的不等式進行了評估。結果表明,提出的不等式可以有效地估計正定解的特徵值。 以下是論文的核心內容: * 論文研究了非線性矩陣方程的正定解的特徵值。 * 論文提出了一些新的不等式,用於估計正定解的特徵值。 * 論文在多個數據集上對提出的不等式進行了評估,結果表明提出的不等式可以有效地估計正定解的特徵值。 以下是論文中提出的兩個不等式的具體說明: * 第一個不等式 該不等式可以從方程的左邊乘 $X^−1$得到。 * 第二個不等式 該不等式可以從第一個不等式迭代推導得到。 ## Optimal bounds for the spectral variation of two regular matrix pairs 論文“Optimal bounds for the spectral variation of two regular matrix pairs”提出了一些新的上界,用於估計兩個正則矩陣對的譜變化。譜變化是衡量兩個矩陣相似程度的一個指標。 論文首先回顧了譜變化的定義。譜變化是兩個矩陣的最大特徵值之差與最小特徵值之差的比值。 然後,論文提出了一些新的上界。這些上界是基於矩陣的幾何性質和統計性質。 論文的一個主要貢獻是提出了一個新的上界,它可以適用於任何正則矩陣對。該上界是基於矩陣的范數和矩陣的譜半徑。 ![截圖 2023-11-30 16.02.05](https://hackmd.io/_uploads/SyutbaHSp.png) 其中 σ(A,B) 是矩陣對 (A,B) 的譜變化,∥A∥ 和 ∥B∥ 是矩陣 A 和 B 的范數,ρ(A) 和 ρ(B) 是矩陣 A 和 B 的譜半徑。 論文的另一個貢獻是提出了一個新的上界,它可以適用於具有相同行列數的正則矩陣對。該上界是基於矩陣的譜半徑和矩陣的奇異值的范數。 ![截圖 2023-11-30 16.02.21](https://hackmd.io/_uploads/ryi5WTBSa.png) 其中 σ1(A) 和 σ1(B) 是矩陣 A 和 B 的第一個奇異值。 論文在多個數據集上對提出的上界進行了評估。結果表明,提出的上界可以有效地估計兩個正則矩陣對的譜變化。 以下是論文的核心內容: * 論文提出了一些新的上界,用於估計兩個正則矩陣對的譜變化。 * 這些上界是基於矩陣的幾何性質和統計性質。 * 論文在多個數據集上對提出的上界進行了評估,結果表明提出的上界可以有效地估計兩個正則矩陣對的譜變化。 以下是論文中提出的兩個上界的具體說明: * 第一個上界 該上界可以從 Cauchy-Schwarz 不等式和范數的定義得到。 * 第二個上界 該上界可以從第一個上界和奇異值分解的性質得到。