ODE的基本性质与解法

参考文献

Papers

  1. The Principles of Diffusion Models

Books

  1. 喻文健,《数值分析与算法(第3版)》,清华大学出版社,2020.

常微分方程定义与基本性质

常微分方程描述了一个确定性的演化过程。系统随时间 的状态变化率由以下方程给出:

  • :表示系统在时间 的状态(位置)
  • :是一个向量场(时变速度场),它定义了空间中每一点在每一时刻的“指令”——即变化的方向大小

可以将求解 ODE 想象为粒子在流体中的运动:

  • 向量场视角 是一个静态或动态的“箭头景观”,规定了每一点的局部流向
  • 轨迹视角:解 是一条曲线。粒子从起点 出发,其每一步的运动方向(切线方向)都严格遵循向量场 的指引
  • 直觉:一旦初始状态 确定,在满足一定条件下,粒子随时间演化的整个轨迹 就被唯一确定了

解的存在性与唯一性

存在性:是否一定有一条路径能满足方程? 唯一性:从同一点出发,是否只会产生一条路径?

局部存在性与唯一性定理

是空间与时间的开区域,设向量场 是定义在该区域上的函数

若函数 满足以下两个条件: 连续性 关于状态 和时间 在区域 内是连续的 局部利普希茨条件 关于状态 满足利普希茨连续性——即存在常数 ,使得对于区域 内的任意两点 ,均满足: 则对于 内的任意初始条件 ,存在一个正数 ,使得常微分方程: 在时间区间 存在一个解 ,并且该解在区间 上是唯一

存在性证明

考虑初值问题:

对等式两边从 进行积分:

因为:

整理得:

也就是说,如果能在连续函数空间找到一个 满足这个积分,那么它一定也满足原来的微分方程

利用上述积分方程,我们定义一个迭代映射

虽然我们不知道解是什么,但我们可以进行猜测

  • 第 0 次猜测
  • 第 1 次修正:把 代入方程右边:
  • 第 2 次修正
  • 第 n+1 次修正

我们得到了一列函数序列

接下来欲证明: 时,这个序列会收敛到一个函数 ,且是方程的解

设局部定义域为以 为中心的矩形区域 , 在内,设向量场 有界()且满足Lipschitz条件,令

定义差距为:

时,

时,

由递推关系,任意时,

又因为 上,所以:

把解写成级数形式:

阶乘的增长速度远快于分子的指数增长,此级数是绝对收敛

因此,函数序列 一致收敛到一个极限函数

我们因此证明了解的存在性

唯一性证明

假设有两个不同的解 都满足方程 定义距离

取范数并利用 Lipschitz 条件: 即:

由于 ,且 根据 Grönwall 不等式

全局(时间上)存在性与唯一性定理

局部定理只保证短期内有解。为了保证在整个时间区间 内解都存在且唯一,需要更强的条件——Carathéodory 定理来约束

局部利普希茨条件:存在一个在 上可积的函数 ,使 得对所有 线性增长条件: 存在一个在 上可积的函数 ,使得对所有

唯一性蕴含解的不相交性

考虑常微分方程 在时间区间 上的两个解 如果它们的初始值不同,即 那么这些解在区间 上不会相交,亦即:

证明

假设存在某个时刻 ,使得 为两个解首次相遇的时刻:

  • 由于 ,且 存在,可知 必然大于
  • 由于 连续,在 时刻它们精确相遇:

现在,我们在 时刻定义一个新的初值问题:

根据唯一性定理,由于 具有相同的状态(),它们必须在 之后的区间 上完全重合,类似地,将唯一性原理向后应用于 之前的区间 ,也可以证明 在该区间上也必须重合

因此, 对所有 成立

初始假设 矛盾

常微分方程的解析解法

线性标量常微分方程

  • : 是一个标量状态函数
  • :是一个仅依赖于时间 的连续系数函数

变量分离求解析解

时,其导数也为0,解为恒零

时,

对等式两边进行积分:

其中:

将左侧和右侧联立起来:

因为指数函数的结果总是正数,且在 ODE 理论中,由于非相交性,如果 ,则 将保持正;如果 ,则 将保持负,所以:

即:

系统状态 演化到 是通过乘以一个指数因子实现的,该因子被称为指数积分因子:

线形常微分方程

定义与标量情形完全一致的指数积分因子 断言解为 验证:

且在 时显然 ,由常微分方程解的唯一性,这就是全解

半线性常微分方程

这类方程将状态变量 的变化率分解为两部分:

  • :系统的状态向量
  • 是一个仅依赖于时间的连续标量函数
  • 是一个依赖于状态 和时间 的向量场()

首先,整理方程:

引入逆积分因子

方程两边同乘逆积分因子:

对左侧进行变换:

因此,原方程简化为:

对时间 积分到

左侧的积分等于:

其中,则左侧等于:

代回原式:

等式两边同乘以积分因子

指数积分因子的性质:

最终得到解的积分形式:

线线

常微分方程的数值解法

微分形式 积分形式 由于积分的非线性,通常难以获得闭式解,所以采用数值方法进行计算,将时间离散化,通过迭代近似连续轨迹

基本定义

离散化 :将时间域划分为 等离散时间点 步长 ():相邻时间点之间的时间间隔 近似:每一步的解 都是对真实解 的数值估计

欧拉法

全局误差:

局部误差:

赫恩法(改进欧拉法)

预测 校正

全局误差: 局部误差:

龙格-库塔法

全局误差: 局部误差:

皮卡迭代法

理论上用于证明解的存在性与唯一性的不动点构造,但是在实际数值计算中,收敛速度较慢,且每次迭代都需要计算耗时的积分,计算开销大

常微分方程的反演

正向求解:从 ,时间 递增 反向求解:从 步进,时间 递减

通过时间重参数化 即可将 ODE 转换为反向形式:,ODE 的时间反演是直接的,这保证了 之间的双射映射,但在随机微分方程中,这种直接反演则是不可能的