特征选择:特征选择是从原始数据中选取最相关的特征，提高模型的泛化能力和效果。特征提取和特征选择有什么区别？分支定界法特征选择分支定界法特征选择:在(① ③)的情况下，用分支定界法做特征选择需要的计算量相对较小，提取的典型技术特征有:特征选择、特征提取、特征变换等。
提取的典型技术特征包括:特征选择、特征提取、特征变换等。特征选择:特征选择是从原始数据中选取最相关的特征，提高模型的泛化能力和效果。常用的特征选择方法有过滤、包装、嵌入等方法。过滤方法通过计算特征与目标变量之间的相关性或统计指数来选择特征；特征提取:特征提取是将原始数据转换成更有代表性的特征表示。常用的特征提取方法包括主成分分析(PCA)、线性判别分析(LDA)、局部敏感哈希(LSH)等。
根据决策树算法的不同，特征选择在信息增益、信息增益比(又称信息增益率)和基尼系数的基础上划分为子节点。依次阐述如下:0。什么是信息熵？如果你没有学过信息论等与信息论相关的书籍，乍一看，信息熵会有点混乱。在机器学习领域，信息熵的定义如下:信息熵是衡量一个样本集纯度最常用的指标之一。假设样本集D中的样本数为D，有K个类别(标签)，其中K个类别样本的比例为pk，则样本集的信息熵为:①信息熵是一个与类别标签有关而与特征无关的量；②它实际反映的是不同类型的样本在这个样本集中所占的比例，也就是上面说的纯度。
我们可以从最初的熵的概念说起，熵是对系统混沌程度的一种度量。熵越多，自然的纯净度越小。悖论在哪里？在于前面的“信息”二字。信息熵越大意味着信息量越大还是信息量越小？如果直观的理解信息量，两者是相反的。信息熵越大，我们能利用的信息就越少。举个简单的例子，样本集d中有10个人。
/图像-3//图像-4/1。遥感遥感的概念、特点和类型遥感是在不接触被探测目标的情况下，利用传感器获取目标数据，通过对数据的分析，获得有关被探测目标、区域和现象的有用信息。基本特性:利用地物对电磁波的辐射和反射特性，通过接收电磁波的辐射或反射信息，可以获得地物的特性。特征:可分为几何特征和物理特征。几何特征:如土壤的粗糙度、房屋的轮廓、各种植被的形状和生长情况等。物理特性:如地物的介电常数、土壤湿度等。，是由材料本身的性质决定的。
3、分支定界法 特征选择分支定界法特征选择:在(① ③)的情况下，用分支定界法做特征选择需要的计算量相对较小。①Cnd>>n(n为原特征数，d为待选特征数)。②样本多。③选取的可分性准则J对特征的数量是单调的。④可分性判据J是可加的。算法分析:算法优点:能得到最优解，平均速度快。因为从最小下界分支开始，每次计算完界限后，比较搜索树上所有当前叶节点的界限，找出界限最小的节点，就是下一个分支的节点。
4、特征提取和 特征选择有什么区别?这两个概念目前没有明确的定义，它们之间确实有重叠。特征提取:就是提取本质功能、应用、优点等。从某些事物中，从特征中提取出来。特征选择:就是从提取出来的东西中选择自己需要的东西，从这个层面去阐述就好很多了。这两者是直接相关的。特征选择和特征提取通过特征是否被变换来区分。假设有100个特征需要降维，特征选择的方法是从100个中取出10个，扔掉另外90个。特征提取就是100个特征都用上了，但是这100个特征只转化成10个。
5、 特征选择技术基于考察变量与结果关系、提高结果匹配度或减少数据量的需要，我们有时需要对数据报表中的特征或自变量进行筛选。一般来说，数据的特征筛选有以下优点:需要进行特征筛选的情况很多，比如手机尺寸、处理器、RAM、屏幕分辨率、摄像头清晰度、材质、品牌等特征与价格最相关的时候；例如，在研究化学谱图中哪些峰信号被去除时，有利于提高拟合结果的r平方值；比如有一天人类懒癌爆发，我觉得26个英文字母太多了，想从数学的角度研究一下哪些字母对当今世界的影响最小...数据类型和应用场景千变万化，对应的特征筛选方法也层出不穷，下面介绍五种常用方法，供参考。
