Clustering for longitudinal data via a self-tagged pseudo entropy with covariate adjustment

本論文以二階段分群法為基礎，對縱式資料進行貼標，以貼標結果計算擬熵值(pseudo entropy)，將最小擬熵值的概念應用至縱式資料分群分析並估計最佳群數。所謂二階段分群法，其第一階段乃是對時間軸作切割，將資料切成數個子區間，以分割式分群法逐一對各區間做分群。第二階段乃是結合各區間的分群結果，建構出一個相似度矩陣，運用階層式分群法做整合分群。兩階段整合分群的結果不一定是正確的，但是我們可依此結果對每一條觀測曲線進行貼標(tagging)，因而可以引入擬熵法之計算，考慮具有最小擬熵值之分群當作是最佳分群並以之估計最佳群數。熵(entropy) 的計算須定義粒子(particle)，或即個體(individual)之相對狀態空間(state space)。最小熵值分群法必須在適當的狀態空間上給出熵的定義。經由貝氏定理的轉換，可發現我們所提的方法剛好等於另一常用之最小庫李熵 (Kullback-Leibler entropy) 分群法。我們另亦討論在常態假設下如何加入變數調整 (covariate adjustment) 以進行分群並估計群數。利用本論文提出的方法，我們針對台灣替代性戒癮藥物美沙冬劑量之資料進行分群研究並討論其結果。Longitudinal data clustering were discussed through a two-stage method, which offers a building block for tagging the data. With appropriate tagging, pseudo entropy can be calculated towards facilitating the minimum-entropy clustering as well as estimating the cluster number. The first stage of clustering involved cutting the entire time axis into several segments and using partitioning method. The second stage combined the results in the previous step to produce a similarity matrix, based on which an integrated clustering was obtained through the traditional hierarchical method. Although the result of two-stage clustering may not be correct, it offers a possibility for tagging each individual data curve so that pseudo entropy can be easily computed. This entails the method of minimum-entropy clustering and the estimation of optimal cluster number. The calculation of entropy needs a well-defined state space when particles (or individuals) and clusters are both involved. The proposed minimum-entropy method considered the relative distributions of different states,and was proved to be equal to the minimum Kullback-Leibler entropy clustering using Bayes transformation. Covariate adjustments were also discussed under normality assumption. As methadone was an alternative treatment to addictive drug, we analyzed the methadone dosage data of Taiwan and discussed the clustering results.1 緒論 1 2 方法回顧 3 2.1 K-means 分群法 . . . . . . . . . . . . . . . . . . 3 2.2 非中心參數分群法 . . . . . . . . . . . . . . . . . . 4 2.2.1 非中心參數介紹 . . . . . . . . . . . . . . . . . . 4 2.2.2 疊代型子集重組法 . . . . . . . . . . . . . . . . . 5 2.3 快速重組法 . . . . . . . . . . . . . . . . . . . . . 6 2.3.1 快速重組法計算 . . . . . . . . . . . . . . . . . . 6 2.4 正確率 . . . . . . . . . . . . . . . . . . . . . . 7 2.5 CH index and Gap statistic . . . . . . . . . . . . 9 2.5.1 CH index . . . . . . . . . . . . . . . . . . . . 9 2.5.2 Gap statistic . . . . . . . . . . . . . . . . . . 9 3 研究方法 11 3.1 二階段分群法 . . . . . . . . . . . . . . . . . . . .11 3.1.1 二階段分群法介紹 . . . . . . . . . . . . . . . . .11 3.1.2 二階段分群演算法 . . . . . . . . . . . . . . . . .12 3.2 擬熵法決定群數 . . . . . . . . . . . . . . . . . . 12 3.2.1 Shannon 熵 . . . . . . . . . . . . . . . . . . . 12 3.2.2 修改 Shannon 熵 . . . . . . . . . . . . . . . . .14 3.2.3 Kullback-Leibler 亂度 . . . . . . . . . . . . . .14 3.2.4 擬熵 (pseudo entropy) . . . . . . . . . . . . . .15 3.2.5 擬熵值的計算 . . . . . . . . . . . . . . . . . . .15 3.3 考慮共變數調整 (covariate adjustment) . . . . . . . 16 4 模擬研究 18 4.1 模擬設計介紹 . . . . . . . . . . . . . . . . . . . 18 4.1.1 模擬設計 I . . . . . . . . . . . . . . . . . . . 18 4.1.2 模擬設計 II . . . . . . . . . . . . . . . . . . . 22 4.1.3 模擬設計 III . . . . . . . . . . . . . . . . . . .24 4.2 擬熵法模擬結果 . . . . . . . . . . . . . . . . . . .26 4.2.1 分群法與 Entropy 之模擬 . . . . . . . . . . . . . 26 4.2.2 分群法與模擬結果比較 . . . . . . . . . . . . . . . 28 4.2.3 共變數調整與 Entropy 之模擬 . . . . . . . . . . . 33 5 實例研究 36 5.1 美沙冬資料介紹 . . . . . . . . . . . . . . . . . . 36 5.1.1 美沙冬資料分析 . . . . . . . . . . . . . . . . . .37 6 結論及討論 42 7 參考文獻 4