《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 業界動態 > 基于決策樹的數據挖掘算法應用研究

基于決策樹的數據挖掘算法應用研究

2009-08-04
作者:常秉琨,李 莉

??? 摘 要:決策樹數據挖掘分類算法在金融客戶關系管理(CRM)中的應用為例,進行了數據挖掘的嘗試,從中發現企業產品的銷售規律和客戶群特征,從而提高CRM對市場活動和銷售活動的分析能力,得到了與實際經驗相符的結果和相應的“規則”,驗證了其可行性和可供決策支持的現實意義。
??? 關鍵詞:算法;數據挖掘;決策樹;客戶關系管理

?

??? 決策樹技術是一種對海量數據集進行分類的非常有效方法,通過決策樹的構造模型,從海量信息中挖掘有效的數據,提取有價值的分類規則,從而獲得有用的知識,為決策者提供支持,幫助決策者準確地預測[1]。本文研究了基于決策樹的數據挖掘的相關理論發展及實際應用,尤其是在商業中的應用,研究了決策樹算法在數據挖掘中應用,給出了在金融客戶關系管理中的具體算例。
1 決策樹的分類挖掘技術
1.1 決策樹的分類挖掘算法

??? 分類是數據挖掘中應用最多的任務,要為每個類別做出準確的描述或建立分析模型或挖掘出分類規則,然后用這個分類規則對其他數據庫中的記錄進行分類[2]。在具體分類中,總是希望進行較少的屬性測試,較快地給實例分類,因此在構建決策樹時,樹的高度越小越好。對于N個樣本,它們分成屬于類別Ci( i = 1 ,2 , …, C)的樣本集合,類別Ci中的樣本個
??? 數為Ni,每個樣本有K個屬性,每個屬性有JK個值。決策樹的構造過程如下:
??? (1)計算初始熵(熵用字符S表示):

???

??? (2)選擇一個屬性作為決策樹的根節點:
??? ①對每個屬性Ak( k = 1 ,2 , …,K ) 按照屬性Ak的J個Akj值,把原始樣本分成第1級樣本集。雖然Akj的分支含有nkj個樣本,但它們不一定屬于單一的類別;
??? ②對于每個分支的nkj個樣本,屬于類別Ci的樣本數目是nkj(i),用下式可以求出該分支的熵:

???

??? ③計算由測試屬性引起的熵降低,即
??? ④選擇產生最大熵降低的屬性AK0,即AK0滿足:
???
??? ⑤屬性AK0便是決策樹的根。
??? (3)由屬性將產生JK0個葉節點,并將樣本集分成JK0個子集,對每個葉節點上的樣本子集依次利用上面的方法選擇一個屬性Ay作為決策樹的下一級,使在該葉節點能得到最大的熵降低。
??? (4)按照步驟(3)不斷構造決策樹的下一級直至所有的樣本子集只有一個類別,這時表明系統的熵為零,決策樹構造過程完畢。
1. 2 決策樹分類挖掘系統的建立
??? 在對金融客戶進行分類分析的過程中,決策樹分類數據挖掘系統建立和應用的一個典型過程是:(1)根據客戶分類的標準,執行客戶分類算法,并將運行結果存儲于數據倉庫中,這樣,每個現有的客戶都具有一個確定的客戶類別;(2)根據歷史數據,主要是客戶的背景數據和客戶的分類數據,執行決策樹生成算法,針對每一種客戶類別,生成一棵決策樹,以一定的形式存放于數據倉庫中;(3)在以上過程執行完畢后,當一個新的客戶來辦理業務時,客戶經理可以首先在系統中調用決策樹展示模塊,系統將整個決策樹展示出來,然后系統根據客戶的具體背景情況預測客戶所屬的客戶類別,以及屬于該客戶類別的概率,并將這些情況展現給客戶經理,客戶經理根據這些情況,對該客戶采取相應的營銷策略,從而達到較好的效果。
2 基于決策樹的數據挖掘的案例分析
2.1 公司客戶關系數據庫

??? 利用決策樹實現客戶細分,主要是在基于客戶價值的客戶細分方法之上進行的,目的是通過了解客戶的特征性指標和行為性指標與客戶所在客戶類別的關系,可以了解同一價值客戶的差異性,有針對性地對不同客戶制定相應的銷售策略[3]。下面以河南省某金融企業的客戶關系管理(CRM)為例,該公司CRM數據如表1所示,說明基于決策樹的客戶分類數據挖掘技術在金融企業客戶關系管理中的應用,來具體闡述如何運用改進ID3算法進行數據挖掘。由于是以分析客戶的特征性指標為例的,所以從中選取了代表特征性的3個屬性:客戶年齡段、學歷以及職業。

?


2.2基于ID3的細分步驟
??? 對于N個樣本,它們分成屬于類別Ci( i = 1 ,2 , …, C )的樣本集合,類別Ci中的樣本個數為Ni,每個樣本有K個屬性,每個屬性有JK個值。類別是客戶類別,分為Ⅰ類客戶、Ⅱ類客戶、Ⅲ類客戶和Ⅳ類客戶4類。將具體的客戶年齡概化為≤25 、25~50 和≥50 3個年齡段,按學歷分為初等學歷、中等學歷和高等學歷3類。按職業分為商業人員、企業人員和其他人員3類。分別如表2、表3、表4所示。
???

?????
??? 決策樹的構造過程如下:
??? (1)計算初始熵(熵用字符S表示) :
????
??? (2) 選擇一個屬性作為決策樹的根節點:
??? ①對每個屬性Ak( k = 1 ,2 , …, K ) 按照屬性Ak的J個Akj值,把原始樣本分成第1級樣本集。雖然Akj的分支含有nkj個樣本,但它們不一定屬于單一的類別。
??? ②對于每個分支的nkj個樣本,屬于類別Ci的樣本數目是nkj(i),用下式可以求出該分支的熵:
???

??? ③計算由測試屬性引起的熵降低,即

???
??? 根據以上計算結果,得出最大熵降低的屬性是K3,即職業。
??? ⑤屬性職業便是決策樹的根。
??? (3) 由屬性將產生JK0個葉節點,并將樣本集分成個子集,對每個葉節點上的樣本子集依次利用上面的方法選擇一個屬性Ay作為決策樹的下一級,使在該葉節點能得到最大的熵降低。
??? (4) 按照步驟(3)不斷構造決策樹的下一級直至所有的樣本子集只有一個類別,這時表明系統的熵為零,決策樹構造過程完畢。然后根據上述的決策樹構造過程,得到圖1所示的決策樹。

?


2.3具體應用分析
??? 決策樹算法中屬性的取值,進一步細分所依據的是特征性指標和行為性指標,然后可以分別得出各種特征性指標和行為性指標與4類客戶之間的樹狀分類結構。下面以分析特征性指標為例,來說明決策樹的構建。
??? 決策樹構建之前,必須要找出決策樹的主屬性。決策樹主屬性的確定主要是根據具體的情況而定。所以客戶細分的主屬性應該是“客戶類別”,就是基于客戶價值的客戶細分得出的客戶類別。
??? 對于數據的選取,并不是所有的數據都符合要求,決策樹建立所要求的數據應是沒有噪音數據和缺失數據,這就需要對數據進行匯總處理。匯總處理一方面是將企業不同部門和不同分銷機構的數據進行集成;另一方面是將數據進行概化處理,即將低層次的原始數據替換為高層次的概念,以便于進行數據挖掘。
??? 分析圖1,從中可以明確4類客戶的特征屬性的大致排布情況,根據所了解的情況,能夠很方便地從客戶的這些特征中大概了解其在4 類客戶中所處的位置。用IF - THEN 的格式來表示樹狀圖的信息(以第Ⅲ類客戶為例),例如:
??? IF 職業=“商業員工”AND 年齡> 25 AND 年齡
??? < 50 AND 學歷=“初等教育”THEN 屬于Ⅲ類客戶
??? IF 職業=“企業員工”AND 年齡> 25 AND 年齡
??? < 50 AND學歷=“初等教育”OR 學歷=“中等教育”THEN 屬于Ⅲ類客戶
??? IF 職業=“其他員工”AND 年齡> 25 AND 學歷
??? ≠“高等教育”THEN 屬于Ⅲ類客戶???????????????????
??? 這些式子說明:對于“商業員工”的客戶來說,如果年齡在25~50 歲之間,學歷為“初等教育”,屬于Ⅲ類客戶;對于“企業員工”的客戶來說,如果年齡在25~50 歲之間,學歷為“中等教育”或者“高等教育”,屬于Ⅲ類客戶;對于“其他員工”的客戶來說,如果年齡大于25 歲,只要學歷不是“高等教育”,就屬于Ⅲ類客戶。
??? 根據上面分析第Ⅲ類客戶的結果,可以得出:不論客戶職業是什么,只要年齡在25~50 歲之間,學歷為“初等教育”的客戶,都屬于Ⅲ類客戶。由于Ⅲ類客戶是企業目前利潤的重要來源,所以企業就要吸引和保持住與Ⅲ類客戶之間的客戶關系,需要把營銷策略更傾向于年齡在25~50歲之間的客戶,而對于在該區間之外的客戶,需要有選擇性地開展促銷方式,例如對其他職業的客戶,就要考慮大于50歲的情況。由于Ⅰ類客戶對企業的貢獻很小,分析的必要性不大,所以重點是對Ⅱ、Ⅲ和Ⅳ類客戶的分析。通過這種分析方式,逐步把通過ID3得出的樹狀結構的所有分支都進行分析,可以了解企業的同一價值客戶在特征屬性上的差異性。同理再對客戶的行為性指標進行分析,可以得出同一價值客戶在行為屬性上的差異性。結合這兩方面,就能夠在了解客戶價值類別的基礎上,有針對性地對不同客戶制定相應的銷售策略,減少企業不必要的開銷,實現對客戶價值細分后的進一步細分。
??? 如何高效地整合和分析企業各部門和各級分銷機構內的銷售和客戶信息,使企業能夠從全局的角度了解和認識市場是CRM的重要任務之一,而基于決策樹的數據挖掘算法對于企業來說剛好可以實現這個任務。通過基于決策樹的客戶分類數據挖掘技術,可以了解客戶的特征性指標和行為性指標與客戶所在客戶類別的關系[4],使企業能夠在了解何種資源組合可以使得自己獲得高利潤的同時,有針對性地根據客戶的差異化和多變性需求制定相應的銷售策略,使得企業制定的營銷策略更加符合市場的需求,保持在市場中的競爭地位。
參考文獻
[1]? 張世海,劉曉燕,涂慶,等.基于決策樹的高層結構智能選型知識發現[J] .哈爾濱工業大學學報, 2005,37(4):451-454.
[2]?崔立新,苑森森,趙春喜.約束性相聯規則發現方法及算法[J].計算機學報,2000,22(2):216-220.
[3]?李緒成,王保保.挖掘關聯規則中Apriori算法的一種改進[J].計算機工程與應用,2002,28(7):104-105.
[4]?魏定國,彭宏.基于知識網絡的數據挖掘[J].計算機科學,2006,33(6):210-213.

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 成人免费观看完整视频 | 亚洲第一a亚洲 | 日本免费影院 | 美女视频导航 | 欧美日韩免费在线观看 | 亚洲一区二区福利视频 | 久久亚洲视频 | 欧美成人免费全部观看天天性色 | 18av黄动漫网站在线观看 | 日日操天天操 | 黄色网址日本 | 欧美一区高清 | 久久成人免费 | 日本韩国在线 | 国产欧美日韩中文久久 | 波多野结衣 在线资源观看 波多野结衣 一区二区 | 生活一级毛片 | 色avv| 国产精品视频分类一区 | 久久成人免费网站 | 成人精品在线 | 亚洲性生活视频 | k9女士 hd| 人人爱天天操 | 色吧色吧色吧网 | 日韩三级伦理在线 | 最新国产在线视频 | 天天躁狠狠躁夜夜躁 | 欧美午夜成年片在线观看 | 看全色黄大色黄大片女图片 | 在线视频亚洲 | 精品国产成人系列 | 日日干夜夜操s8 | 成人免费视频网站www | 黄色在线小视频 | 欧美成人午夜做受视频 | 波多野结衣在线免费 | 又黄又猛又爽大片免费视频 | 午夜免费福利 | 亚洲最大视频网 | 欧美亚洲香蕉 |