提问者:小点点

多数据类型特征的决策树


我正试图用scikit learn的DecisionTreeClassifier构建一个决策树。我的数据具有由整数和浮点值组成的数字特征。

在构造决策树时,整数特征被转换为浮点。

例如:如果A是一个只能有1-12个整数值的特征,分裂标准,如“A

如果将整数特征转换为浮动,则树的深度会增加。如何限制将整数功能转换为浮动?

此外,scikit learn的DecisionTreeClassifier不允许分类功能。是否有其他包/库用于构建允许分类功能的决策树?


共1个答案

匿名用户

关于决策树的整数与浮点,这对于构建树来说并不重要。两个连续整数之间的任何分裂都是等价的。它永远不会在同一对连续整数之间进行两次分裂,因为这样做,其中一个叶子将没有样本。无论使用整数还是浮点数,它都将生成等效模型。

使用Scikit学习,您可以使用LabelBinarzer使用分类功能。这将为类别创建一个虚拟值矩阵(一个热编码)。

以下是一个例子:

from sklearn.preprocessing import LabelBinarizer
from sklearn.tree import DecisionTreeClassifier
import numpy as np

定义功能

month = ['Jan', 'Feb', 'Jan', 'Mar']
day = [1, 15, 30, 5]

定义类别目标

y = [0, 1, 1, 1]

制作假人:

lb = LabelBinarizer()
X_month_dummies = lb.fit_transform(month)

X\u month\u假人是:

array([[0, 1, 0],
       [1, 0, 0],
       [0, 1, 0],
       [0, 0, 1]])

将假人与数字特征组合(天)

X = np.hstack([np.column_stack([day]), X_month_dummies])

构建分类器。

clf = DecisionTreeClassifier()
clf.fit(X, y)

相关问题