维度诅咒
在深度学习中，维度诅咒（Curse of Dimensionality）是指随着特征维度的增加，数据变得越来越稀疏，从而导致模型训练和预测的困难。高维数据通常会导致以下问题：
-
数据稀疏性：随着维度的增加，数据点之间的距离变得更大，导致数据变得稀疏。这使得模型难以找到有效的模式和关系。
-
过拟合：高维数据容易导致模型过拟合，因为模型可能会学习到噪声而不是实际的模式。
-
计算复杂性：高维数据需要更多的计算资源和时间来处理，这可能导致训练时间过长。
-
可视化困难：高维数据难以可视化和理解，使得模型的解释性降低。
-
特征选择困难：在高维空间中，选择最相关的特征变得更加困难，因为许多特征可能是冗余的或无关的。
还有一个就是特征越多需要的样本量就越多,也就是需要更多的数据来训练模型,否则就会导致模型的过拟合。但是我们有标注的数据集成本是非常昂贵的,所以我们需要一些方法来减少特征的维度。