Python 为什么总值不等于 scikitlearn RandomForestClassifier 中的样本数

接得好.

虽然没有记录，但这是由于bootstrap sampling默认发生在随机森林模型中(关于RF算法的详细信息及其与决策树的区别，请参阅我在Why is Random Forest with a single tree much better than a Decision Tree classifier?中的答案).

让我们看一个包含iris个数据的示例:

from sklearn.datasets import load_iris
from sklearn import tree
from sklearn.ensemble import RandomForestClassifier

iris = load_iris()

rf = RandomForestClassifier(max_depth = 3)
rf.fit(iris.data, iris.target)

tree.plot_tree(rf.estimators_[0]) # take the first tree

这里的结果与您报告的结果类似:除了右下角的 node 外，其他 node 的sum(value)不等于samples，因为a "simple" decision tree应该是这样.

一个谨慎的观察者可能会注意到一些奇怪的事情:虽然iris数据集有150个样本:

print(iris.DESCR)

.. _iris_dataset:

Iris plants dataset
--------------------

**Data Set Characteristics:**

    :Number of Instances: 150 (50 in each of three classes)
    :Number of Attributes: 4 numeric, predictive attributes and the class

树的基本 node 应该包括所有 node ，第一个 node 的samples个 node 只有89个.

这是为什么？这里到底发生了什么？看看，让我们安装第二个RF模型，这次是without bootstrap sampling(即bootstrap=False):

rf2 = RandomForestClassifier(max_depth = 3, bootstrap=False) # no bootstrap sampling
rf2.fit(iris.data, iris.target)

tree.plot_tree(rf2.estimators_[0]) # take again the first tree

好了，现在我们已经禁用了 bootstrap 采样，一切看起来都"不错":每个 node 中value的总和等于samples，而基本 node 实际上包含整个数据集(150个样本).

因此，您描述的行为似乎确实是由于自举采样，在创建样本with replacement(即，最终为集合中的每个单独决策树生成duplicate个样本)时，这些重复样本不会反映在树 node 的sample个值中，这些值显示了unique个样本的数量；然而，它is反映在 node value中.

这种情况与RF回归模型完全类似——参见sklearn RandomForestRegressor discrepancy in the displayed tree values中的答案.