美文网首页
归纳偏好

归纳偏好

作者: 程序猿爱打DOTA | 来源:发表于2017-05-17 18:40 被阅读0次

机器学习中,一个学习算法也会有一个前提假设,这里被称作“归纳偏执 (bias)

没有归纳偏执或者归纳偏执太宽泛会导致 Overfitting

限制过大的归纳偏执也是有问题的:如果数据本身并不是线性的,强行用线性函数去做回归通常并不能得到好结果 uperFitting

“奥卡姆剃刀” Occam's razor: 若有多个假设与观察一致,则选最简单的那个

“”没有免费的午餐“ No Free Lunch Theorem定理: 总误差与学习算法无关,它们的期望性能相同。(NFL前提:所有“问题”出现的机会相同,或所有问题同等重要,但实际情形并不是这样)

NFL定理最重要的寓意:脱离具体问题,空泛的谈论“什么学习算法更好”毫无意义。因为若考虑所有潜在的问题,则所有学习算法都一样好,要谈论算法的相对优劣,必须要针对具体的学习问题,在某些问题上表现好的学习算法,在另一些问题上却可能不尽如人意。学习算法自身的归纳偏好与问题是否相配,往往会起到决定性的作用。

相关文章

  • 归纳偏好

    机器学习中,一个学习算法也会有一个前提假设,这里被称作“归纳偏执 (bias)” 没有归纳偏执或者归纳偏执太宽泛会...

  • 机器学习-模型评估

    1.归纳偏好 机器学习算法在学习过程中对某种类型假设的偏好,称为归纳偏好。 *两种决策 适用情形尽可能少(经验误差...

  • 假设空间与归纳偏好

    一些零碎的知识点 1、归纳与演绎 2、归纳学习:广义的归纳学习是指从样例中学习;狭义的归纳学习是指从样例数据中习得...

  • 二、假设空间与归纳偏好

    假设空间 归纳(induction)与演绎(deduction)是科学推理的两大基本手段。前者是从特殊到一般的泛化...

  • 机器学习笔记(持续更新)

    任何一个有效的机器学习算法必须有一个归纳偏好(bias),否则无法产生确定的学习结果 bias的大小决定学习算法...

  • 西瓜书(周志华机器学习)读书笔记之归纳偏好

    但是由于我们的训练数据是有限的,训练数据很可能并不能覆盖整个假设空间,只是覆盖了一部分,叫做“版本空间”。 满足这...

  • 偏好

    每个人都有自己的偏好 对人或对物 也就无所谓得失 你拥有了因ta而起的欣喜 便无法避免因ta而起的悲痛 你遇见了平...

  • 偏好

    总是有人习惯性的跟不同的人经历相同的事情,而我,更向往的是跟同样的人经历不同的事! 是什么让我彻夜难眠……一杯同事...

  • 偏好

    比起炽热的太阳,我总是愿意享受软软的月光; 比起兰花的温淑,我总是愿意沐浴茉莉的清香; 比起绝壁的孤高,我总是想念...

  • 偏好

    有人喜欢甜,有人喜欢咸,还有人只喜欢天然食品不喜欢加工食品等。 好比咸甜党之争,好比同学认为一切加工食品都是不健康...

网友评论

      本文标题:归纳偏好

      本文链接:https://www.haomeiwen.com/subject/cwzdxxtx.html