机器学习(2.概念学习)

《机器学习(2.概念学习)》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1机器学习—概念学习2归纳学习概念概念学习定义作为搜索的概念学习（搜索策略：偏序）Find-S：寻找极大特殊假设变形空间和候选消除算法归纳偏置OUTLINE3归纳学习也可以称作归纳推理或简称归纳，其任务是：给定函数f(未知)的实例集合，返回一个近似于f的函数h——h称为假设，所有h的集合称为假设空间一个好的假设应该能够预测未见过的实例——这就是基本的归纳问题问题实例——用一个单变量函数(近似目标函数)来拟合若干数据点，选择最高次数为k的多项式集合作为假设h的集合，即假设空间H归纳学习4数据拟合5上图中显示了拟合两两一组数据的不同函数—与所有数据一致的函数称为一致假

2、设如何在多个一致假设之间进行选择？答案—奥卡姆剃刀原则(Ockham’srazor)—优先选择与数据一致的最简单假设原因—比数据本身更复杂的假设不能从数据中提取任何模式此外，对于非确定性函数，在假设的复杂度和数据拟合度之间进行折中不可避免Ockham剃刀原则6归纳学习概念概念学习定义作为搜索的概念学习（搜索策略：偏序）Find-S：寻找极大特殊假设变形空间和候选消除算法归纳偏置OUTLINE7概念学习给定某一类别的若干正例和反例，从中获得该类别的一般定义。搜索的观点在预定义的假设空间中搜索假设，使其与训练样例有最佳的拟合。利用假设空间的偏序结构算法收敛到正确假设的

3、条件概念学习8概念学习的定义给定一个样例集合以及每个样例是否属于某个概念的标注，怎样推断出该概念的一般定义。又称从样例中逼近布尔函数。概念学习是指从有关某个布尔函数的输入输出训练样例中推断出该布尔函数。概念学习9例子–enjoysport目标概念，Aldo进行水上运动的日子，表示为布尔函数EnjoySport任务目的，基于某天的各属性，预测EnjoySport的值一个样例集，每个样例表示为属性的集合No.SkyAirTempHumidityWindWaterForecastEnjoySport1SunnyWarmNormalStrongWarmSameYes2Su

4、nnyWarmHighStrongWarmSameYes3RainyColdHighStrongWarmChangeNo4SunnyWarmHighStrongCoolChangeYes表2-1目标概念EnjoySport的训练样例10基本概念实例x:每一个实例使用若干属性表示，相应属性值构成一个实例No.SkyAirTempHumidityWindWaterForecastEnjoySport1SunnyWarmNormalStrongWarmSameYes2SunnyWarmHighStrongWarmSameYes3RainyColdHighStrongWa

5、rmChangeNo4SunnyWarmHighStrongCoolChangeYes例子–enjoysport11基本概念实例集X:概念定义在一个实例集合之上，这个集合表示为XNo.SkyAirTempHumidityWindWaterForecastEnjoySport1SunnyWarmNormalStrongWarmSameYes2SunnyWarmHighStrongWarmSameYes3RainyColdHighStrongWarmChangeNo4SunnyWarmHighStrongCoolChangeYes例子–enjoysport12基本概念

6、目标概念c:待学习的概念或函数称为目标概念，记作cNo.SkyAirTempHumidityWindWaterForecastEnjoySport1SunnyWarmNormalStrongWarmSameYes2SunnyWarmHighStrongWarmSameYes3RainyColdHighStrongWarmChangeNo4SunnyWarmHighStrongCoolChangeYes例子–enjoysport13基本概念训练样例d:每个样例为X中的一个实例x以及他的目标概念值c(x)。表示为序偶注意：EnjoySport=yes时

7、c(x)=1EnjoySport=no时c(x)=0No.SkyAirTempHumidityWindWaterForecastEnjoySport1SunnyWarmNormalStrongWarmSameYes2SunnyWarmHighStrongWarmSameYes3RainyColdHighStrongWarmChangeNo4SunnyWarmHighStrongCoolChangeYes例子–enjoysport14基本概念正例:c(x)=1的实例被称为正例反例:c(x)=0的实例被称为反例No.SkyAirTempHumidityWindWate

8、rFore