对于这两门科目,是大一的基础课程,客观看来对于保研面试没有什么太大作用,所以只会提取一些比较重要的概念做记录,其他的就只做罗列。权当回忆往昔
当年还是会认真学习的
数学分析
数列极限
- 极限的定义:
给定数列{an},如果满足对任意e>0,都存在自然数N,让|an-a|< e,则称{an}收敛于a,或者是以a为极限
- 如果收敛,极限唯一
- 具有保序性
- 夹逼: 有an< bn< cn,liman=bn=cn
- 数列有界 - 既有上界,又有下界
- 单调有界一定有极限
- 数列的子列收敛->收敛
- 单调的要么存在极限要么到无穷
- 单调有界一定有极限
- Caucy收敛定理:
数列收敛的充分必要条件是{an}是基本列
- 基本列(柯西列):
对任意e>0都存在N,对任意的m>n>N,有|am-an|< e
个人理解就是往无穷跑了,这时候变动无穷小 - 列紧性:任何有界数列都存在收敛的子数列(这个东西的名字叫Bolano-Weierstass不行过了三年我看这个还是想笑)
- 基本列(柯西列):
- 集合上下确界
- 有限覆盖定理
函数极限与连续
- 映射 f:A->B
- 一一映射 - 即为单射,又为满射
- 函数的相关定义
- 函数极限 函数f(x)在去心领域内有定义,并且在任意小的区间内,任意趋近于某个值(懒得严谨的记内容了)
- 局部有界,局部保号
- Heine定理 f(x)存在极限的充要 —— 对于任意一个数列有limxn存在
- 函数(局部)连续在x0处左右连续都满足
- 左右连续(左右极限等于当前的值)
- 在开区间上连续+左右极限点处连续->闭区间连续
- 单调函数一定存在反函数
- 初等函数在其定义域上都连续
- 间断点
- 第一类:左右极限都为有限数但不一样,是跳跃间断点; 如果左右极限相等但是和函数值不等,叫做可取间断点
- 第二类:左右极限有一个不存在
- 函数的一致连续:
在区间I上有定义,对任意e>0,存在仅与e有关的实数g(e)>0,对区间内任意两点,有|x1-x2|< e
- 一致连续和连续的区别:
- 连续 f(x)-f(c)逐点; 一致连续与边上的点f(x2)-f(x1)
- 可能出现的case是开区间的边缘上飞掉
- Cantor - 在闭区间上连续 -> 一致连续
- 有界闭区间上的连续函数一定有界
- 在区间内一致连续 -> 区间内有界
- 有界闭区间上的连续函数一定可以取到max min
- 有界闭区间上的连续函数,如果区间端点异号,一定存在零点
- 推: 广义介值定理(把上面的0换成实数c)
- 一致连续和连续的区别:
- 无穷大与无穷小阶数的比较
函数的导数
- 在开区间内部任意一点可导-在区间上可导,若分别在区间端点左右可导,那么闭区间可导
- 导数四则运算,反函数,复合函数的导数
- 高阶导数(高阶导数的写法对于当年的我甚至很难,我是个弱智)
- Leibniz求导法则 对
(fg)^{n} = sum(C^n_k)f^{n-k}g^k
- 隐函数:F(x,y)=0对任意x,总存在唯一的y满足方程,那么F(x,y)=0就是一个隐函数
怎么感觉就是一种特殊的方程…是一个带一个未知数且有唯一解的参数方程- 在两边求导,解dy/dx
- 参数方程,利用反函数的求导法则,求dt/dx(dy)
- 微分中值定理
- 极值点可以有无穷多个
- Fermat引理 极值处导数为0(而且这个点被称为驻点)
- Rolle中值在[a,b]连续,在(c,d)可导,且有f(a)=f(b)那么一定存在一点在(a,b)让导数为0
- 3大条件
- 闭区间连续
- 开区间可导
- 区间端点处函数值相等
- 广义Rolle,把区间的一个端点变到无穷
- 3大条件
- Lagrange中值定理闭区间连续,开区间可导,一定存在f(b)-f(a)/(b-a)=f`
- Caucy中值 fx,gx 闭区间连续,开区间可导 f(b)-f(a)/(g(a)-g(b0)) = f
/g
- 严格单调,闭区间连续,开区间可导,并且在区间内有有限多个值导数是某个符号
- 严格凸:f(x1+x2)< f(x1)+f(x2)
- 拓展到N维就是Jenson不等式
- L`Hospital法则
高中叫的开心开心洛必达,谁能想到是这么写- 近似商的极限等于分子分母导数的商
Taylor公式与逼近
- 可微等价于可导,tayloe公式可以应用于差值逼近,可以获得比求导更好的效果
- 只有余项趋近0的时候函数才可以做泰勒展开
- 带Peano余项的Taylor定理 余项o(x-x0)^n
- 在零点处的叫Maclaurin展开
- 带Lagrange和Caucy余项 f^(n+1)/(n+1)!(x-x0)^n
函数积分
- 这里有好多Trick,当年练了一万次,但是面试估计不太会问
- 可积的必要条件有界
- 闭区间上连续 -> 可积
- 绝对可积首先在闭区间上可积,积分的绝对值 < 绝对值的积分
- Newton-Leibniz公式 intf(x) = F(a)-F(b)
- 积分中值定理
- 第一: fx,gx在闭区间上连续,gx不变号,那么gx可以提出来
- 第二: fx在闭区间上可积,gx非负递减有界,gx提出来
- 第三: fx闭区间可积,gx为单调有界,gx提出来,分两段
- 广义积分收敛性
- fx非负,积分收敛的充要是F(x)有界
- 广义积分Caucy收敛: 对于任意e>0,存在M>0,有x1,x2,有积分的绝对值< e,有fx积分收敛
- 绝对收敛的广义积分一定收敛,但是条件收敛就未必
- Dirichlet判别 1)F(A)在a到无穷有上界 2) gx在a到无穷单调,且lim=0,那么int(fxgx)收敛
- Abel判别 1)int(fx)收敛 2) gx在a到无穷单调有界
- 都是把一个函数拆分成两个的积,然后和标准的比较
数项级数
- an是级数,sn为n个的部分和
- 部分和序列lim存在,则级数收敛
- Caucy收敛定理任意e>0,存在N,对任意p,n到n+p的和小于e
- 绝对值的sum收敛。则原序列收敛s
- 绝对和条件收敛 绝对值发散但是原级数收敛,叫做条件收敛
- sum(1/n^p)在p=1时候为标准序列,可以用来比较判别法
- 正项数列收敛的充要为:部分和序列有界
- Caucy判别法 \(\lim_{n \to \infty}{\sqrt[n]{a_n}} =q\) q< 1收敛>
- D’Alembert判别 an是正项级数,那么如果 \(\lim_{n\to\infty}{\frac{a_{n+1}}{a_n}}=q\)
- Liebniz判别对交错级数(-1)^n,an单调递减,且lim=0,则收敛
- Dirichlet判别{bk}单调递减且lim为0,ak的部分和绝对值有界
- Abel判别{bk}单调有界,sum_ak收敛
- Caucy积分判别法 若fx递减,sumf(x)与intf(n)同时收敛或发散
- 函数序列的一致收敛
对任意e,都有与e有关的N,n>N|fn(x)-f(x)|< e
- 同样有Abel & Dirichlet判别且更加广泛,上面的lim换成一致收敛
- 幂级数
收敛可以在不同点速度不一,但是一致收敛在各点速度类似;逐点收敛就是在某些点收敛的太慢了
多变量函数的极限/微分
- 重极限、累次极限
- 偏导数
- 多元可导可微不等价
- 多元Taylor
- 方向导数与梯度
- 二次型
X = [x1,x2,x3,x4,x5,x6...] A = [a11 a12...a1n;a21...ann] X^T*A*X 叫做二次型,A是系数矩阵
- 正定矩阵(假设A是对称矩阵) 对任意x,二次型都>0,那么A是正定矩阵
- 矩阵A是正定的充要是所有的顺序主子式(任意的k,方形det)都>0
- 二阶连续偏导数矩阵叫Hessian矩阵
- 决定了函数的极值存在与凹凸性
- Hessian矩阵的特征值,描述了该点附近特征向量方向上函数的凹凸性,特征值越大,越陡
- Hessian矩阵正定,则存在最大值
- 极值存在定理在P0点某个领域存在偏导数而且P0是极值点,那么P0是稳定点,如果P0是稳定点,如果Hf(P0)是正(负)定矩阵,P0是极大(小)值
- 正定矩阵(假设A是对称矩阵) 对任意x,二次型都>0,那么A是正定矩阵
- n个函数的n阶偏导数组成的nxn矩阵 - Jacobi矩阵/行列式
- 用于求空间切线与切平面方程
- 用于简化多元复合函数的求导(Commonly Used In BackProp)
- 多元函数得到极值点的必要条件是各高阶导数值在该点为0,求解复杂
- 由于函数极值的必要条件是这一点的微分为0,引入了Lagrange函数
- $L(x_1,x_2,…x_n;\lambda_1,\lambda_2…)=f(x_1,x_2…)+\sum_{j=1}^{m}{\lambda_i\phi_j(x_1,x_2…)}$
- Lagrange乘数法用来处理在多约束条件下的高维函数最值
- 当约束条件曲线与函数值的一条等高线相切的时候取得最值(这个需要先理解一下)
- 两曲线相切等价于在某点出具有共线的法向量,也就是两者的梯度成正比
- 类比到高维度就是Lagrange函数
- 参如何理解拉格朗日乘子法? - 陆zz的回答 - 知乎*
- 两类曲线/面积分
- 第一类: 对弧长积分,都是标量
- 第二类: 对坐标积分,带方向,相当于做功
- Green公式 环线积分 = 散度的二重积分
- Gauss公式 面积分 = 散度的三重积分
- Stokes公式 环线积分 = 旋度
- 统一形式 (1-D Newton-Leibniz;2-D Green;3-D Gauss)
- 统一为了Stokes - 高次的微分形式在给定区域内的积分等于低阶的区域积分
非常的Elegant
- 统一为了Stokes - 高次的微分形式在给定区域内的积分等于低阶的区域积分
线性代数
线性方程组
- 一个线性方程组的系数(aij)和常数项(bj)共同组成的矩阵叫增广矩阵(Augmented Matrix)
- 初等变换
- Switch
- *K
- A*K + B
- 一个单位阵(首先是对角阵)经过若干次初等变换之后的矩阵,叫做初等矩阵
- 初等变换不改变秩
- 常数项(b)全为0的叫齐次线性方程组(homogeneous linear equation)
- 必然有一个零解(平凡解)
- 对非其次方程组,只要得到Ax=b的一个解X1,将其与AX=0的所有解相加就可以得到AX=b的所有解
- 有唯一解 - 系数矩阵满秩
- 各列线性无关
- 克拉默Cramer法则 :用b去替代det的第k列
3Blue1Brown有一个可视化解释这个法则
- 线性相关(对向量而言),如果一组线性相关,那么某个向量就可以*被组里的其他向量线性表示
- N维空间最多存在N个线性无关的向量 – 用N个基一定能够表示N维度空间
- 坐标变化,在另外一组基下的坐标,经过的一个变化叫做过渡矩阵(Transition Matrix)
- 秩Rank
- 极大线性无关组,某一个集合中的向量都线性无关,如果加入该集合外的任意一个向量,这个集合就不再线性无关了。
- 极大线性无关组所包含的向量个数
- 如果两个向量集合互为线性组合,那么两者等价
- 有行和列的秩,如果两者一致,那么就是矩阵的秩
- 齐次线性方程组的解空间的维度 N-Rank(A)
行列式 Determinant
- 初等变换 1. 更换行 *(-1) 2. 提取公因式,乘系数 3. 行之间加减,不变
- 转置矩阵,不改变
- 行列式为0,该矩阵(变化)是退化的(De-generate)
- 由\(\triangle=a_{ij}*(-1)^{i+j}*M_{ij}\)
- 余子式在Det中将i行j列删除之后的Det(Mij)叫元素aij在Det中的余子式
- \((-1)^{i+j}M_{ij}=A_{ij}\) 则叫做代数余子式(Algebraic Cofactor)
- 余子式其实是一个Det,也就是一个值,会基于原矩阵降维一度,这样方便计算(一个三维的行列式,转化为3个常数乘上三个二维的Det)
本质上是从一个det中提取一个元素出来
- Vandermonde矩阵-各列为几何级数(多项式)的矩阵
矩阵 Matrix
-
单位矩阵(对角阵,全为1) 纯量矩阵(Scalar Matrix) 全为k 对角阵Diagonal -
A^T=A对称 A^T=-A反对称(anti-symmetric)斜对称(skew symmetric matrix) - 逆矩阵 $(AB)^(-1) = B^{-1}*A^{-1}$
- 逆矩阵的行列式是倒数
- 每个元素的代数余子式(与原本矩阵一样大)组成的叫做A*(伴随矩阵Adjacent Matrix)
AA* = A*A = |A|I
- 初等方阵都是可逆方阵,每个可逆方阵都可以分解为有限个初等方阵的乘积
- 每个m*n的矩阵A都可经过有限次初等变换得到 D = [Ir … 0]
- 如果A可以经过有限次初等变换变为B,那么AB相抵(Equivalent)或者是等价
- Caucy-Schwarz不等式(
我也想知道为啥会出现在这里)(a_1^2+...a_n^2)(b_1^2+...b_n^2) > (a_1b_1+...+a_nb_n)^2
- 正交化
- 单位向量组成的基就是标准正交基
- 一个向量组{a1,…am}其中任意两个元素ai,aj的内积为Aij的矩阵叫做度量方阵(Metric Matrix)也称为Gram方阵
- 对任何一个矩阵 A^TA是其列向量组的 Gram方阵
- 正定对一个的实对称方阵,对任意X,都有
X^T*S*X>0
则是正定的(Positive SemiDefinite) (可能=0的话叫做半正定)- 正定的特征值都为正
- 正定的形式XTAX与二次型的形式对应,每一个二次型都对应着一个对应的参数矩阵A,N元正定的二次型其实就是N维空间内的抛物面
- 这样的定义与多维函数的极点(当这个二次型矩阵是Hessian矩阵的实时候)从存在与凸优化对应上了
- 🤔对应的,半正定有点像马鞍?是否对应着鞍点?
- 正交
A^(-1)=A^T
叫做正交方阵(Orthogonal Matrix)continuity
- 相合 AB都是n阶的,存在P,让
B=P^T*A*P
,那么B与A相合(congruent)- 如果能够求出P将
G=A^T*A
相合到P^T*G*P=I
那么B=PA的列向量就是A的列向量改造成的标准正交向量组
- 如果能够求出P将
- 二次型 (Quadric Form)
X^T*A*X A是一个参数矩阵,X是一个Vector
- 矩阵A是正定的充要是所有的顺序主子式(任意的k,方形det)都>0
- Sylvester惯性定律 实对称方阵S通过两个不同的可逆方阵P,P1相合到的标准型(D = [Ir … 0])一样
- 特征方程
- 相似 AB都是n阶的,存在P,让
B=P^(-1)*A*P
,那么B与A相似- 同一个线性变化在不同基底下的矩阵是相似矩阵
- 对角化的本质就是换了一组基来表示一个矩阵(线性变换)
- 他们特征值相同
- 迹(trace) 方阵A的对角元之和
- 迹相同是矩阵相似的必要条件
- Jordan标准型 如果两个矩阵具有相同的特征值,但是不相似
- Jordan块对角元素相等且上方斜线都是1,对角元素均为Jordan块
- 矩阵没有足够的特征向量,不能对角化,只能用Jordan标准型,接近对角矩阵,相同Jordan型划分的矩阵才是相似矩阵
我感觉没有搞明白知识体系…
复变函数
- 多连通区域柯西积分(用一个小圆绕过极点做围线积分)
- 幂级数 \(\sum_{n=-\infty}^{\infty}c_n(z-a)^n\)
- 收敛判别 1. Caucy \(\sqrt[n]{a_n}\) 2. D’Alembert 正项\(\frac{a_{n+1}}{a_n}\)
- 幂级数的收敛域是一个圆
- 泰勒级数是把一个函数在某一点展开成幂级数
- 留数定理:
- 留数:在极点处的逆时针方向围线积分
- 大区域的围线积分等于内部各个留数之和