我们选择的参数决定了我们得到的直线相对于我们的训练集的准确程度，模型所预测的
值与训练集中实际值之间的差距（下图中蓝线所指）就是建模误差（modeling error）。
我们的目标便是选择出可以使得建模误差的平方和能够最小的模型参数。 即使得代价函数
最小。
代价函数也被称作平方误差函数，有时也被称为平方误差代价函数。我们之所以要求出
误差的平方和，是因为误差平方代价函数，对于大多数问题，特别是回归问题，都是一个合
理的选择。还有其他的代价函数也能很好地发挥作用，但是平方误差代价函数可能是解决回
归问题最常用的手段了。
吴恩达机器学习笔记2-代价函数(cost function)
原文：https://www.cnblogs.com/sl0309/p/10260708.html