為什麼線性判別分析的降維維數不能大於類別數減一

日期:2024-02-22 分類:百科達人 投稿:admin

最佳答案 這涉及到矩陣乘法的問題,我們假設類別總數為N:由於矩陣中的的秩為1,因此SB的秩最多為N,即類別數目(矩陣的秩小於等於各個相加矩陣的秩的和)。又由於 和N個 不是線性無關的, 和前N-1個 可以表示出第N個 ,或者說可以通的線性組合表示出來,因此 的秩最多為N-1, 的秩最大也為N-1。而LDA的對映矩陣W為 進行特徵

為什麼線性判別分析的降維維數不能大於類別數減一

這涉及到矩陣乘法的問題,我們假設類別總數為N:由於矩陣中的的秩為1,因此SB的秩最多為N,即類別數目(矩陣的秩小於等於各個相加矩陣的秩的和)。又由於 和N個 不是線性無關的, 和前N-1個 可以表示出第N個 ,或者說可以通的線性組合表示出來,因此 的秩最多為N-1, 的秩最大也為N-1。而LDA的對映矩陣W為 進行特徵值求解的特徵矩陣所組成。由於秩為N-1,那麼不為0的特徵值個數為則不大於N-1,因此有用的特徵向量個數也不大於N-1。故其降維後的特徵維度也不大於N-1。也就是對於2類,只能降維為1維。