最小二乘法介绍 @ 最小二乘法的目标是找到一组参数值,使得观测值 $y_i$ 与预测值 $\hat{y}_i=\beta_0+\beta_1x_i$ 之间的误差平方和最小。通过对误差平方和关于 $\beta_0$ 和 $\beta_1$ 求偏导数并令其为零,可以得到求解参数的公式。
泰勒公式 @ 泰勒公式是一个用函数某点的信息描述其附近取值的公式,利用高阶导数来刻画函数的性质,在数学、物理、工程等多个领域都有广泛应用。 核心思想 @ 在函数的某个点(记为$x = a$,像一个“支点”)附近,用一个多项式去逼近该函数。
偏导数 @ 偏导数是多元函数中用于衡量函数在某一自变量方向上变化率的概念。 对于多元函数,如$z = f(x,y)$,在固定其他自变量的情况下,对某一个自变量求导得到的导数就是偏导数。
极大似然法 @ 极大似然法是一种在统计学中用于参数估计的重要方法,以下从基本思想、求解步骤、应用场景等方面为你讲解: 基本思想 @ 极大似然法的核心是基于这样一个原理:
线性模型 @ 在机器学习中,线性模型是一类较为基础且重要的模型,主要分为以下几类: 线性回归模型 @ 一元线性回归 @ 用于建立一个自变量 $x$ 与一个因变量 $y$ 之间的线性关系,其模型形式为 $y = \beta_0+\beta_1x+\epsilon$,其中 $\beta_0$ 是截距,$\beta_1$ …
一般建模步骤 @ 数据收集与预处理:收集相关的自变量和因变量数据,并进行清洗、缺失值处理、数据标准化等预处理操作。 模型假设:假设因变量与自变量之间存在线性关系,即$y = \beta_{0}+\beta_{1}x_{1}+\beta_{2}x_{2}+\cdots+\beta_{n}x_{n}+\epsilon$, …
统计学习和符号学习 @ 统计学习和符号学习是机器学习领域中的两种重要学习范式 统计学习 @ 定义:统计学习基于统计学理论,利用数据来构建模型并进行预测和决策。它通过分析大量的数据,发现数据中的统计规律,以实现对未知数据的预测和分类等任务。 方法:常见的统计学习方法包括线性回归、逻辑回归、支持向量机、决策树、随机森林、 …
线性系统 @ 矩阵更准确的说是对线性系统的描述,所谓的线性系统指的是例如 $3x + 4y + z = 8$ 之类的线性方程组,未知数只能是一次方项。而非线性方程则例如 $\sin(x) = \Pi$ 等坐标图上呈曲线的方程组。
矩阵变换的基本概念 @ 矩阵可以看作是一个向量的函数,因此矩阵能够有效地表示各种几何变换。通过不同的矩阵乘法操作,我们可以实现对向量或图形的缩放、旋转、翻转等多种变换效果。
什么是矩阵? @ 我们之前学过,向量是单个数字的扩展,可以表示一组相关的数。那矩阵又是什么呢? 其实矩阵是向量的扩展,它可以表示一组向量。简单来说,矩阵就是一个由数字排成的矩形表格。
什么是线性代数? @ 线性代数其实就是一门"从研究单个数字,扩展到研究一组数字"的数学分支。 举个生活中的例子:如果我们要描述一个人的特征,可能需要身高、体重、年龄等多个数字。这一组相关的数字,在数学中就可以用"向量"来表示。