熱線：021-5161-9676 |
熱線：021-5161-9676 |
ＣＨＡＩＤ、ＣＡＲＴ、Ｑｕｅｓｔ和 Ｃ５．０。 建立決策樹(shù)的過(guò)程，全自動(dòng)氮吹儀即樹(shù)的生長(zhǎng)過(guò)程是不斷的把數(shù)據(jù)進(jìn)行分組的過(guò)程，每次分組對(duì)應(yīng)一 個(gè)問(wèn)題，也對(duì)應(yīng)著一個(gè)節(jié)點(diǎn)。每次分組都要 求所分 得的 組之間 的“差異”最大。各 種決 策樹(shù) １０．１ 數(shù)據(jù)挖掘及其應(yīng)用 ３４９ 算法之間的主要區(qū)別就是對(duì)這個(gè)“差異”衡量方式的區(qū)別。這樣的分組過(guò)程也可稱為數(shù)據(jù)的 “純化”。比如圖１０．１所示的例子，就包含兩個(gè)類別———低風(fēng)險(xiǎn)和高風(fēng)險(xiǎn)。如果經(jīng)過(guò)一次分 組后，就 使每個(gè) 組中 的數(shù)據(jù) 都屬 于同 一個(gè)類 別，則這 樣高 效的分 組方 法顯然 就是 我們 所追 求的。 當(dāng)然實(shí)際中應(yīng)用的決策樹(shù)可能不會(huì)像如 圖１０．１所 示那 樣簡(jiǎn)單。 如果利 用歷 史數(shù) 據(jù)建 立了一個(gè)包含幾百個(gè)屬性、輸出的類有十幾種的決策樹(shù)，這樣的一棵樹(shù)對(duì)人來(lái)說(shuō)可能太復(fù)雜 了，但無(wú) 論它有 多復(fù) 雜，每一 條從根 節(jié)點(diǎn) 到葉子 節(jié)點(diǎn) 的路 徑所描 述的 含義仍 然是 可以 理解 的。決策樹(shù)的這種易理解性對(duì)數(shù)據(jù)挖掘的使用者來(lái)說(shuō)是一個(gè)顯著的優(yōu)點(diǎn)。然而這種明確性 也可能會(huì)給人帶來(lái)誤導(dǎo)。比如，決策樹(shù)中的每個(gè) 決策 節(jié)點(diǎn) 都是非 常明 確毫不 含糊 的表 達(dá)了 一種數(shù)據(jù)分組 策 略，但 在 實(shí) 際 生 活 中 這 種 明 確 可 能 會(huì) 帶 來(lái) 一 些 麻 煩，憑 什 么 說(shuō) 年 收 入
為 ￥４０００１ 的人就具有較小的信用風(fēng)險(xiǎn)，而年收入為￥４００００的人就具有較大的信用風(fēng)險(xiǎn)呢？ 在數(shù)據(jù)挖掘中應(yīng)用決策樹(shù)的優(yōu)點(diǎn)是需要的計(jì) 算資 源較少，而 且可 以很容 易地 處理 包含 很多預(yù)測(cè)變量的情況。在建立決策樹(shù)時(shí)，為了使得到的決策樹(shù)所蘊(yùn)含的規(guī)則具有普遍意義， 必須避免對(duì)決策樹(shù)的過(guò)度訓(xùn)練，同時(shí)還要減少訓(xùn)練的時(shí)間。 決策樹(shù)很擅長(zhǎng)處理非數(shù)值型數(shù)據(jù)，這與神經(jīng)網(wǎng)絡(luò)只能處理數(shù)值型數(shù)據(jù)比起來(lái)，就免去了 很多數(shù)據(jù)預(yù)處理工作。甚至有些決策樹(shù)算法是專 門為 處理非 數(shù)值 型數(shù) 據(jù)而設(shè) 計(jì)，因此 當(dāng)采 用此種方法建立決策樹(shù)同時(shí)又要處理數(shù)值型數(shù)據(jù) 時(shí)，反而 要做把 數(shù)值 型數(shù)據(jù) 映射 到非 數(shù)值 型數(shù)據(jù)的預(yù)處理。 ３． 回歸分析 回歸分析是通過(guò)具有已知值的變量來(lái)預(yù)測(cè) 其他 變量的 值。在 最簡(jiǎn)單 的情 況下，回 歸采 用的是像線性回歸這樣的標(biāo)準(zhǔn)統(tǒng)計(jì)技術(shù)，這 種技術(shù) 就是 最小 二乘法。 但在大 多數(shù) 現(xiàn)實(shí) 世界 中的問(wèn)題是不能用簡(jiǎn)單 的線 性 回歸 所能 預(yù)測(cè) 的。如 商品 的銷 售 量、股票 價(jià)格、產(chǎn) 品 合格 率
等，很難 找到簡(jiǎn) 單有 效的方 法來(lái) 預(yù)測(cè)，因 為要描 述這 些事 件的變 化所 需的變 量往 往以 上百 計(jì)，且這些變量本身又都是非線性的。為此人們 又發(fā) 明了 許多新 的手 段來(lái)試 圖解 決這 個(gè)問(wèn) 題，如邏輯回歸、多項(xiàng)數(shù)回歸、對(duì)數(shù)回歸、泊松回歸等。 ４． 遺傳算法 遺傳算法簡(jiǎn)稱 ＧＡ（ＧｅｎｅｔｉｃＡｌｇｏｒｉｔｈｍ），在本 質(zhì)上是一種不依 賴具體問(wèn)題的直 接搜索方 法。是一種基于進(jìn)化理論，并采用自然選擇、遺傳交叉（或結(jié)合）及遺傳變異等設(shè)計(jì)方法的優(yōu) 化技術(shù)。 遺傳算法把問(wèn)題的解表示成“染色體”，在算法 中也 即是 以二進(jìn) 制編 碼的串。 在執(zhí) 行遺 傳算法之前，給出一群“染色體”，也即是假設(shè)解。然后，把這些假設(shè)解置于問(wèn)題的“環(huán)境”中， 并按適者生存的原則，從中選擇出較適應(yīng)環(huán) 境的“染色 體”進(jìn)行 復(fù)制，再 通過(guò)交 叉、變異 過(guò)程 ３５０ 第十章 數(shù)據(jù)挖掘與Ａｇｅｎｔ技術(shù) 產(chǎn)生更適應(yīng)環(huán)境的新一代“染色體”群。這樣，一代一代地進(jìn)化，最后就會(huì)收斂
