Ji Xiang's blog

machine-learning.md

机器学习主要术语

1.监督式机器学习

机器学习系统通过学习如何组合输入信息来对从未见过的数据做出有用的预测。

2.标签

标签是我们要预测的事物,即简单线性回归中的 y 变量。标签可以是小麦未来的价格、图片中显示的动物品种、音频剪辑中的含义或任何事物。

3.特征

特征是输入变量,即简单线性回归中的 x 变量。简单的机器学习项目可能会使用单个特征,而比较复杂的机器学习项目可能会使用数百万的特征,按如下方式指定:

1
{x1, x2, ... xn}

4.样本

样本是指数据的特定实例:x。(采用粗体x表示它是一个矢量。)我们将样本分为以下两类:

  • 有标签样本
  • 无标签样本

有标签样本同时包括特征和标签。即:

1
labeled examples: {features, label}: (x, y)

无标签样本包含特征,但不包含标签。即:

1
unlabeled examples: {features, ?}: (x, ?)

在使用有标签样本训练了我们德 模型之后,我们会使用该模型来预测无标签样本的标签。

5.模型

模型定义了特征与标签之间的关系。模型生命周期的冷两个阶段:

  • 训练表示创建或学习模型。也就是说,向模型展示有标签样本,让模型逐渐学习特征与标签之间的关系。
  • 推断表示将训练后的模型应用于无标签的样本。也就是说,使用训练后的模型来做出有用的预测。

6.回归于分类

  • 回归模型可预测连续值
  • 分类模型可预测离散值

训练与损失

简单来说,训练模型表示通过让有标签样本来学习(确定)所有权重和偏差的理想值。在监督式学习中,机器学习算法通过以下方式构建模型:检查多个样本并尝试找出可最大限度地减少损失的模型;这一过程称为经验风险最小化

损失是对糟糕预测的惩罚。也就是说,损失是一个数值,表示对于单个样本而言模型预测的准确程度。如果模型的预测完全准确,则损失为零,否则损失会较大。训练模型的目标是从所有样本中找到一组平均损失“较小”的权重和偏差。

平均损失(L2损失)

(observation - prediction(x))^2 = (y - y’)2

均方损失(MSE)

每个样本的平均平方损失