c4.5算法是什么意思？

C4.5算法是RossQuinlan開發(fā)的一種生成決策樹的算法。該算法是RossQuinlan開發(fā)的ID3算法的擴(kuò)展。C4.5算法生成的決策樹可以用于分類目的，所以這個(gè)算法也可以用于統(tǒng)計(jì)分類。C4.5算法和ID3算法一樣，使用信息熵的概念，通過(guò)學(xué)習(xí)數(shù)據(jù)來(lái)構(gòu)建決策樹。

決策樹屬于可視化的哪一種？

決策樹是一種流行的監(jiān)督學(xué)習(xí)方法。決策樹的優(yōu)點(diǎn)是既可用于回歸，又可用于分類，無(wú)需特征縮放，可解釋性好，易于可視化決策樹。

可視化決策樹不僅是理解你的模型的好方法，也是向他人介紹你的模型的運(yùn)行機(jī)制的有利工具。因此，數(shù)據(jù)分析師掌握決策樹的可視化方法非常重要。

crat決策樹用什么來(lái)劃分屬性？

決策樹是以樣本的屬性為節(jié)點(diǎn)，屬性值為分支的樹形結(jié)構(gòu)。

決策樹的根節(jié)點(diǎn)是所有樣本中信息量最大的屬性。樹的中間節(jié)點(diǎn)是以該節(jié)點(diǎn)為根的子樹中包含的樣本子集中信息量最大的屬性。決策樹的葉節(jié)點(diǎn)是樣本的類別值。決策樹是一種知識(shí)表示形式，是對(duì)所有樣本數(shù)據(jù)的高度概括。決策樹能準(zhǔn)確識(shí)別所有樣本的類別，并能有效識(shí)別新樣本的類別。

決策樹算法ID3的基本思想；

首先找出最有鑒別能力的屬性，將樣本分成若干子集，通過(guò)選擇最有鑒別能力的屬性對(duì)每個(gè)子集進(jìn)行劃分，直到所有子集只包含同一類型的數(shù)據(jù)。

PM決策樹優(yōu)點(diǎn)？

1.決策樹模型容易產(chǎn)生過(guò)于復(fù)雜的模型，這樣的模型泛化性能會(huì)很差。這就是所謂的過(guò)擬合，一些策略如剪枝、設(shè)置葉子節(jié)點(diǎn)所需的最小樣本數(shù)或設(shè)置數(shù)的最大深度是避免這個(gè)問(wèn)題的最有效方法。

2.決策樹可能不穩(wěn)定，因?yàn)閿?shù)據(jù)的微小變化可能導(dǎo)致完全不同的樹生成。這個(gè)問(wèn)題可以通過(guò)決策樹的集成來(lái)緩解。

3.在多方面性能最優(yōu)和概念簡(jiǎn)化的要求下，學(xué)習(xí)最優(yōu)決策樹通常是一個(gè)NP-hard問(wèn)題。

所以實(shí)際的決策樹學(xué)習(xí)算法都是基于啟發(fā)式算法，比如在每個(gè)節(jié)點(diǎn)做出局部最優(yōu)決策的貪婪算法。該算法不能保證返回最全局的決策樹。這個(gè)問(wèn)題可以通過(guò)集成學(xué)習(xí)訓(xùn)練多個(gè)決策樹來(lái)緩解，決策樹一般是通過(guò)隨機(jī)抽取特征和樣本產(chǎn)生的。

4.有些概念是決策樹很難學(xué)習(xí)的，因?yàn)闆Q策樹很難清晰地表達(dá)那些概念，比如異或、奇偶或多路復(fù)用問(wèn)題。

5.如果問(wèn)題中某些類占優(yōu)勢(shì)，那么原來(lái)的決策樹會(huì)有偏差，建議先分析數(shù)據(jù)再擬合。設(shè)置為平衡。