1.1 What is machine learning?#

Tom Mitchell’s definition:

A computer program is said to learn from experience E with respect to some class of tasks T, and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E.

本书会从 概率的视角 来解释各种 ML 模型。简单来说，我们会将所有未知量（例如明天的温度，或模型的参数）看作随机变量，赋予这些变量概率分布，即描述这些变量可能拥有的值的加权集合。

为什么采用概率的视角？首先，这是在不确定性下做决定的理想方法；其二，概率建模是其他大多数科学和工程领域的常用语言，因此概率也提供了不同领域间的一个统一框架。