\documentclass{beamer}

% colors
\newcommand{\red}{\color{red!80!black}}
\newcommand{\blue}{\color{blue!90!black}}
\newcommand{\green}{\color{green!80!black}}

% tikz
\usepackage{tikz}
\usetikzlibrary{decorations.pathmorphing}

% line spacing
\usepackage{setspace}
\setstretch{1.2}

% math commands
\usepackage{physics,bm}
\newcommand{\Ge}{\geqslant}
\newcommand{\Le}{\leqslant}
\newcommand{\ep}{\varepsilon}
\newcommand{\avg}[1]{{\langle{#1}\rangle}}
\renewcommand{\d}{\mathrm{d}}
\newcommand{\Ent}{\mathrm{Ent}}

% use the Madrid beamer theme
\mode<presentation> {
\usetheme{Madrid}
}
\usefonttheme{serif}
\usecolortheme{default}
\useinnertheme{circles}
\usepackage{caption}
\usepackage{perpage} 
\MakePerPage{footnote}
% remove scheme=palin if you want date shown as English style
\usepackage[scheme=plain]{ctex}
\usepackage[T1]{fontenc}

% Times new Roman font
\usepackage{newtxtext,newtxmath}

% define pku red color
\definecolor{pkured}{cmyk}{0,1.0,1.0,0.45}
% set pku red color for title and frame title
\setbeamercolor{title}{bg=pkured}
% set title font to bold
\setbeamerfont{title}{series=\bfseries}

% set frame title font size and weight
\setbeamerfont*{frametitle}{size=\large,series=\bfseries}
% show header
\useoutertheme[subsection=false]{miniframes}

% set header bar background color
\setbeamercolor{section in head/foot}{fg=white, bg=pkured}
\setbeamercolor{section title}{fg=white, bg=pkured}
% remove frame title background color
\setbeamercolor*{frametitle}{fg=pkured, bg=white}

% set three-part foot line
\makeatletter
\setbeamertemplate{footline}
{
  \leavevmode% horizontally put three beamercolorboxes
  % author institute box,
  \begin{beamercolorbox}[wd=.2\paperwidth,ht=2.25ex,dp=1ex,center]{section in head/foot}%
    \usebeamerfont{author in head/foot}\insertshortauthor~~\beamer@ifempty{\insertshortinstitute}{}{(\insertshortinstitute)}
  \end{beamercolorbox}%
  %short title box
  \begin{beamercolorbox}[wd=.55\paperwidth,ht=2.25ex,dp=1ex,center]{section in head/foot}%
    \usebeamerfont{title in head/foot}\insertshorttitle
  \end{beamercolorbox}%
  % date and page number box
  \begin{beamercolorbox}[wd=.25\paperwidth,ht=2.25ex,dp=1ex,right]{section in head/foot}%
    \usebeamerfont{date in head/foot}\insertshortdate{}\hspace*{3.5em}
    \insertframenumber{} / \inserttotalframenumber\hspace*{2ex} 
  \end{beamercolorbox}%
}
\makeatother


\setbeamertemplate{headline}{
  \begin{beamercolorbox}{section in head/foot}
    \vskip0pt\insertnavigation{\paperwidth}\vskip3pt
  \end{beamercolorbox}
}

% set toc font and item color
\setbeamerfont{section in toc}{series=\bfseries}
\setbeamercolor{section in toc}{fg=pkured}
\setbeamercolor{section number projected}{bg=pkured,fg=white}

% set itemize style
\setbeamercolor{itemize item}{fg=pkured}
\setbeamercolor{itemize subitem}{fg=pkured}
\setbeamercolor{itemize subsubitem}{fg=pkured}

\setbeamertemplate{itemize item}[square]
\setbeamertemplate{itemize subitem}[circle]
\setbeamertemplate{itemize subsubitem}[triangle]

% set enumerate style
\setbeamercolor{item projected}{bg=pkured}

% shorten the width of frame title to show logo
\setbeamertemplate{frametitle}{%
  \nointerlineskip%
  \begin{beamercolorbox}[wd=0.8\paperwidth,ht=3ex,dp=1.125ex]{frametitle}
    \usebeamerfont{frametitle}\strut\insertframetitle\strut
    \hfill
    % \raisebox{-0.5ex}{\includegraphics[height=0.8cm]{example-logo}}
  \end{beamercolorbox}%
}

\setbeamerfont{footnote}{size=\tiny}
\captionsetup{font=scriptsize,labelfont=scriptsize}

% put logo on the right corner
\logo{\includegraphics[width=2cm]{pkulogo.png}\vspace{7.7cm}\hspace{0.0cm}}

% [] used in the footer, {} used in the title
\title
{复杂随机过程和数值方法
	的遍历性和长时间误差}


\author
[睦]
{
	\renewcommand{\arraystretch}{1.4}
	\begin{tabular}{cl}
		答辩人: & 虚空若叶睦 \\
		院系: & 数学科学学院
	\end{tabular}
}

\institute[北京大学]{}

\date{2025年5月26日}

% mathscr font set to euscript
\usepackage[mathscr]{euscript} 

\begin{document}
\CJKsetecglue{\hspace{1.5pt}}

% plain: remove all header and footer in this page
\begin{frame}[plain]
    % show pku logo in the upper center of title page
    \centering
    \includegraphics[width=4.5cm]{pkulogo.png}
    \titlepage
\end{frame}

\begin{frame}[plain]
\frametitle{目录}
\hfill
\parbox[t]{.95\textwidth}{
  \begin{minipage}[t][0.8\textheight]{0.95\textwidth}
\tableofcontents[sectionstyle=show,subsectionstyle=show/shaded/hide,subsubsectionstyle=show/shaded/hide]
  \end{minipage}
}
\end{frame}

\section{采样问题和采样算法简介}

\frame{\sectionpage}

\begin{frame}{计算数学中的采样问题}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 计算数学中的采样 (sampling) 问题的出现源于对{\blue 高维分布的近似}.
	\item 给定目标分布$\pi(x)\propto e^{-V(x)}$, 其中$V(x)$是$\mathbb R^d$上的势能函数. 采样的目标是{\red 高效生成一列样本点$(X_n)_{n=0}^\infty$}, 使得当$n$充分大时, $X_n$的分布$\mu_n \in \mathcal P(\mathbb R^d)$能{\red 快速且准确地收敛到目标分布$\pi(x)$}.
	\item 采样问题广泛地出现在{\blue 计算物理, 数据科学和机器学习}等领域. 典型的应用场景包括: 自由能的计算, 贝叶斯推断和扩散生成式模型.
\end{itemize}
\end{frame}

\begin{frame}{采样算法简介}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 解决采样问题的核心是{\blue 设计合适的采样算法}. 在大部分采样算法中, 算法在每个迭代点$X_n\in\mathbb R^d$附近收集\,{\red $V(x)$或$\nabla V(x)$}\,的信息, 并用于确定下一个迭代点$X_{n+1}$的位置.
		\item 采样算法的复杂度是指调取\,{\red $V(x)$和$\nabla V(x)$}\,的次数. 
		\item 常用的采样算法包括:
		\begin{itemize}
			\item Metropolis--Hastings算法
			\item Hamiltonian Monte Carlo (HMC)
			\item 基于Langevin动力学的离散格式: Euler--Maruyama, MALA, randomized midpoint, BAOAB \& UBU
			\item 随机梯度采样算法: SG-LD, SG-HMC, RBM
		\end{itemize}
	\end{itemize}
\end{frame}

\begin{frame}{采样算法的误差刻画}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 在本报告中, 我们主要研究基于Langevin动力学的采样算法. 遍历性是刻画Langevin动力学收敛速度的核心概念.
		\item 设随机过程$(x_t)_{t\Ge0}$的对偶半群为$(\mathscr P_t)_{t\Ge0}$, 即若$x_0 \sim \nu$, 则$x_t \sim \nu \mathscr P_t$. 若$\pi$是$(x_t)_{t\Ge0}$的不变分布, 即
		\vspace{-6pt}
		\begin{equation*}
			\pi \mathscr P_t = \mathscr P_t,~~~~
			\forall t\Ge0,
		\vspace{-6pt}
		\end{equation*}
		且存在常数$C,\lambda>0$使得以及一个概率度量$\mathsf d(\cdot,\cdot)$, 使得
		\vspace{-6pt}
		\begin{equation*}
			\mathsf d(\nu \mathscr P_t,\pi) \Le C e^{-\lambda t} \mathsf d(\nu,\pi),~~~~\forall t\Ge0,
		\vspace{-6pt}
		\end{equation*}
		则称$(x_t)_{t\Ge0}$具有{\blue 遍历性}.
		\item 常用的概率度量包括: 全变差, Wasserstein距离和KL散度 (相对熵).
	\end{itemize}
\end{frame}

\begin{frame}{采样算法的误差刻画}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 
	为Langevin动力学$(x_t)_{t\Ge0}$的离散格式指定步长$h>0$, 可以得到离散解$(X_n)_{n=0}^\infty$. 采样误差与Langevin动力学的{\red 收敛速度}和{\red 步长}均相关.
	\item 例: $\mathbb R^d$上的过阻尼Langevin动力学形如
	\vspace{-6pt}
	\begin{equation*}
		\d x_t = -\nabla U(x_t) + \sqrt{2}\d B_t, \quad
		t\Ge0,
	\vspace{-6pt}
	\end{equation*}
	其中$(B_t)_{t\Ge0}$为Brown运动. 它的Euler--Maruyama格式为
	\vspace{-6pt}
	\begin{equation*}
		X_{n+1} = X_n - h \nabla U(X_n) + \sqrt{2h}(B_{(n+1)h}-B_{nh}), \quad n\Ge0.
	\vspace{-2pt}
	\end{equation*}
	\item 上述离散解$\{X_n\}_{n=0}^\infty$的误差可控制为: (定理5, {\green[BDMS18]})
	\vspace{-6pt}
	\begin{equation*}
		\mathcal W_2(\nu \tilde P_n^h,\pi) \Le C {\red e^{-\lambda nh}} + C{\red h},
	\vspace{-6pt}
	\end{equation*}
	其中$C,\lambda$为常数, $\tilde P_n^h$为$(X_n)_{n=0}^\infty$的对偶半群.
\end{itemize}
\end{frame}

\begin{frame}{采样算法的误差刻画}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 一般地, 假设Langevin动力学$(x_t)_{t\Ge0}$的离散解为$(X_n)_{n=0}^\infty$, 且其对偶半群为$\tilde P_n^h$. 若存在一个满足$\displaystyle \lim_{h\rightarrow0} \ep(h) = 0$的误差函数$\ep(h)$, 使得
		\begin{equation*}
			\mathsf d(\nu \tilde P_n^h,\pi) \Le C {\red e^{-\lambda nh}} + C {\red\ep(h)},
		\end{equation*}
		则称$(X_n)_{n=0}^\infty$的采样误差具有{\red 指数衰减性}.
		\item 本报告的主题对于特定的高维Langevin动力学及其离散格式, 证明相应的{\blue 遍历性}和采样误差的{\blue 指数衰减性}.
	\end{itemize}
\end{frame}

\begin{frame}{博士期间的主要工作}
	主要研究了{\blue 路径积分分子动力学(path integral molecular dynamics)}和{\red 随机分组方法(random batch method)}的遍历性和采样误差:
	\mbox{}\\[4pt]
	\begin{enumerate}
		\item Efficient sampling of thermal averages of {\blue interacting quantum particle systems} with {\red random batches} \underline{(J. Chem. Phys., 2021)}
		\item Ergodicity and long-time behavior of the {\red random batch method} for interacting particle systems \underline{(M3AS, 2023)}
		\item Error analysis of {\red time-discrete random batch method} for interacting particle systems and associated mean-field limits\\ \underline{(IMA J. Numer. Anal., 2023)}
		\item Dimension-free ergodicity of {\blue path integral molecular dynamics} \underline{(accepted by CiCP, 2023)}
	\end{enumerate}
\end{frame}

\section{路径积分分子动力学}

\frame{\sectionpage}

\begin{frame}{正则系综平均的路径积分表示}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 路径积分分子动力学(\textbf{p}ath \textbf{i}ntegral \textbf{m}olecular \textbf{d}ynamics)是计算量子系统的{\blue 正则系综 (canonical ensemble)平均}的一套标准方法.
		\item $\mathbb R^d$中的量子系统可由Hamilton算子
		\vspace{-6pt}
		\begin{equation*}
		\hat H = -\frac{\Delta}2 + V(\hat x),
		\vspace{-6pt}
		\end{equation*}
		来描述, 该系统在温度$T$下的正则系综由密度算子
		\vspace{-6pt}
		\begin{equation*}
			{\red
			\hat\rho_\beta = \frac1{\mathscr Z_\beta}e^{-\beta\hat H}},
		\vspace{-6pt}
		\end{equation*}
		其中$\beta = 1/(k_{\mathrm{B}}T)$, 而$\mathscr Z_\beta = \Tr\big[e^{-\beta\hat H}\big]$是配分函数 (partition function).
	\end{itemize}
\end{frame}

\begin{frame}{路径积分分子动力学}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item
		观测算子$O(\hat x)$在正则系宗$\hat\rho_\beta$中的平均定义为
		\vspace{-6pt}
		\begin{equation*}
		\avg{O(\hat x)}_\beta = \frac1{\mathscr Z_\beta}
		\mathrm{Tr}\big[e^{-\beta \hat H}O(\hat x)\big] =
		\frac1{\mathscr Z_\beta}
		\int_{\mathbb R^d} {\red \mel{x}{e^{-\beta \hat H}}{x}} O(x)\d x,
		\vspace{-6pt}
		\end{equation*}
		其中{\red $\mel{x}{e^{-\beta\hat H}}{y}$}是$e^{-\beta\hat H}$作为迹类 (trace class) 算子的{\blue 核函数}, 而
		\vspace{-6pt}
		\begin{equation*}
			\mathscr Z_\beta = \mathrm{Tr}\big[e^{-\beta\hat H}\big] = \int_{\mathbb R^d} {\red\mel{x}{e^{-\beta\hat H}}{x}}\d x
		\vspace{-6pt}
		\end{equation*}
		是系统的{\blue 配分函数}.
		\item 计算$\avg{O(\hat x)}_\beta$的关键, 在于估计并采样密度函数{$\red\mel{x}{e^{-\beta \hat H}}{x}$}.
	\end{itemize}
\end{frame}

\begin{frame}{正则系综平均的路径积分表示}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 计算$\mel{x}{e^{-\beta\hat H}}{x}$本质上需要求解$\hat H$对应的抛物方程, 若直接使用空间离散或谱方法, 计算复杂度将随$d$\,{\red 指数级增长} ({\blue 维数灾难}).
		\item 路径积分提供了近似$\mel{x}{e^{-\beta\hat H}}{x}$的一种方法, 且复杂度随$d$\,{\red 线性增长}.
		\item 
		给定\(x_1 \in \mathbb{R}^d\), 利用路径积分中的{\blue 时间切片}法, \(\mel{x_1}{e^{-\beta \hat{H}}}{x_1}\)可近似为\vspace{-2pt}
		{\small
			\begin{align*}
				& ~~~~ \mel{x_1}{e^{-\beta \hat{H}}}{x_1} \\
				& \approx \int \prod_{j=1}^N \mel{x_j}{
					e^{-\frac{\beta_N}{2}V} e^{\frac{\beta_N}{2}\Delta} e^{-\frac{\beta_N}{2}V}
				}{x_{j+1}} \d x_2 \cdots \d x_N \qquad \text{(使用Strang分裂)}\\
				& = \frac{1}{(2\pi\beta_N)^{\frac{dN}{2}}} \int \exp\bigg(
				-\frac{1}{2\beta_N}\sum_{j=1}^N |x_j - x_{j+1}|^2
					- \beta_N \sum_{j=1}^N V(x_j) -\mathcal{E}_N(\bm{x})
				\bigg) \d x_2 \cdots \d x_N,
		\end{align*}}
		其中$\beta_N = \beta/N$, $x_{N+1} = x_1$.
	\end{itemize}
\end{frame}

\begin{frame}{正则系综平均的路径积分表示}
	\begin{itemize}
		\item 上述表达式包含{\red$N$珠-环聚合物}\,($N$-bead ring polymer)的势能函数:
		\vspace{-6pt}
		\begin{equation*}
			\mathcal{E}_N(\bm{x}) = \frac{1}{2\beta_N}\sum_{j=1}^N {\blue |x_j - x_{j+1}|^2}
			+ \beta_N \sum_{j=1}^N V(x_j),
		\vspace{-6pt}
		\end{equation*}
		其中相邻的珠由弹性势能\,{\blue $|x_j-x_{j+1}|^2$}连接.
	\end{itemize}
	\begin{center}
		\input{draw_ring_polymer.tex} \\
		\textbf{图:} 一个10珠-环聚合物的图示
	\end{center}
\end{frame}

\begin{frame}{正则系综平均的路径积分表示}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 采样$\mathbb R^d$中的密度函数{\red$\mel{x}{e^{-\beta\hat H}}{x}$}可转化为采样$\mathbb R^{dN}$中的经典Gibbs分布$\pi_N(\bm x) \propto {\red\exp(-\mathcal E_N(\bm x))}$.
		\item 由于Strang分裂的局部误差是\,{\blue$\mathcal O(\beta_N^3)$}, 使用
		\vspace{-6pt}
		\begin{equation*}
			\avg{\hat O}_{\beta,N}:= \frac1{\mathscr Z_N} \int_{\mathbb R^{dN}} \bigg(\frac1N\sum_{j=1}^N O(x_j)\bigg)
			\exp(-\mathcal E_N(\bm x))\d\bm x
		\vspace{-6pt}
		\end{equation*}
		估计系综平均$\avg{\hat O}_\beta$时的误差为\,{\blue$\mathcal O(N\beta_N^3)$}.
		\item 路径积分表示只有在$N$足够大时才能得到精确的系综平均.
	\end{itemize} 
\end{frame}

\begin{frame}{主要贡献}
	\begin{equation*}
		\mathcal{E}_N(\bm{x}) = \frac{1}{2\beta_N}\sum_{j=1}^N |x_j - x_{j+1}|^2
		+ \beta_N \sum_{j=1}^N V(x_j),~~~~
		\pi_N(\bm x) \propto \exp(-\mathcal E_N(\bm x)).
	\end{equation*}
	\vspace{-6pt}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 为采样目标分布$\pi_N(\bm x)$, 需要构造$\mathbb R^{dN}$上的Langevin动力学, 使其不变分布恰好为$\pi_N(\bm x)$, 并且离散该动力学所需的步长$h$不依赖于$N$.
	\item 论文的主要贡献是, 采样分布$\pi_N(\bm x)$的Langevin动力学拥有{\blue 与珠数$N$无关的收敛速率}. 收敛速率的值依赖于势能函数$V(x)$的正则性条件.
\end{itemize}
\end{frame}

\begin{frame}{正则坐标下的Langevin动力学}
	利用{\blue 正则坐标变换}, 可以将$N$珠-环聚合物的势能函数改写为
	\vspace{-6pt}
	\begin{equation*}
		\mathcal E_N(\bm\xi) = \frac1{2\beta_N^2} \sum_{k=0}^{N-1}
		{\red\omega_k^2 |\xi_k|^2} + \beta_N \sum_{j=1}^N V\bigg(\underbrace{\sum_{k=0}^{N-1} \xi_k c_{j,k}}_{x_j(\bm \xi)}\bigg),
	\vspace{-26pt}
	\end{equation*}
	其中$c_{j,k}$为离散Fourier系数: $c_{j,0} = \dfrac1{\sqrt{\beta}}$,
	\vspace{-6pt}
	\begin{equation*}
		c_{j,2k-1} = \sqrt{\frac2\beta}
		\sin\bigg(\frac{2\pi kj}{N}\bigg),~~c_{j,2k} = \sqrt{\frac2\beta}
		\cos\bigg(\frac{2\pi kj}{N}\bigg),~~k=1,\cdots,\frac{N-1}2,
	\vspace{-6pt}
	\end{equation*}
	而$\omega_k$对应于$N$珠-环聚合物的第$k$个模的{\blue 特征振荡频率}:
	\vspace{-6pt}
	\begin{equation*}
		\omega_0 = 0,\quad\omega_{2k-1} = \omega_{2k} = \frac2{\beta_N}
		\sin\bigg(\frac{k\pi}{N}\bigg),\quad k=0,1,\cdots,\frac{N-1}2.
	\vspace{-6pt}
	\end{equation*}
\end{frame}

\begin{frame}{正则坐标下的Langevin动力学}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 第$k$个模的振荡频率$\omega_k$随$k$\,{\red 线性增长}. 如果在Langevin动力学中直接使用$-\nabla \mathcal E_N(\bm\xi)$作为下降方向, 则会在时间离散中遇到{\red 刚性问题}.
	\item 可以使用预条件方法克服$\mathcal E_N(\bm\xi)$的刚性. 引入$a>0$并定义势能函数
	\vspace{-6pt}
	\begin{equation*}
		V^a(x) = V(x) - \frac a2 |x|^2,~~~~x\in\mathbb R^d,
		\vspace{-6pt}
	\end{equation*}
	则$N$珠-环聚合物的势能可以改写为
	\vspace{-6pt}
	\begin{equation*}
		\mathcal E_N(\bm\xi) = \frac1{2\beta_N^2} \sum_{k=0}^{N-1}
		{\red(\omega_k^2+a)} |\xi_k|^2 + \beta_N \sum_{j=1}^N V^a\bigg(\underbrace{\sum_{k=0}^{N-1} \xi_k c_{j,k}}_{x_j(\bm \xi)}\bigg),
	\vspace{-26pt}
	\end{equation*}
	其中每一个$|\xi_k|^2$的系数$\omega_k^2+a>0$.
\end{itemize}
\end{frame}

\begin{frame}{正则坐标下的Langevin动力学}
在第$k$个模上使用$(\omega_k^2+a)^{-1}$作为预条件系数, 则Langevin动力学形如
\begin{equation*}
	\dot \xi_k = - \frac1{\omega_k^2+a} \nabla \mathcal E_N(\bm\xi) + \sqrt{\frac2{\omega_k^2+a}}\dot B_k,~~~~
	k=0,1,\cdots,N-1,
\end{equation*}
其中$\{B_k\}_{k=0}^{N-1}$是$\mathbb R^d$上独立的Brown运动. 上述动力学可以等价地写为\\[10pt]
\textbf{\blue 预条件过阻尼Langevin动力学}
\begin{equation*}
	\dot \xi_k = - \xi_k - \frac1{\omega_k^2+a} \sum_{j=1}^N
	\nabla V^a(x_j(\bm\xi))c_{j,k} + \sqrt{\frac2{\omega_k^2+a}}\dot B_k,~~~~
	k=0,1,\cdots,N-1.
\end{equation*}
该动力学的不变分布是\,{\red$\pi_N(\bm\xi) \propto \exp(-\mathcal E_N(\bm\xi))$}.
\end{frame}

\begin{frame}{正则坐标下的Langevin动力学}
	若在正则坐标$\{\xi_k\}_{k=0}^{N-1}$的基础上再引入正则速度$\{\eta_k\}_{k=0}^{N-1}$, 则也可得到欠阻尼版本的预条件Langevin动力学.\\[10pt]
	\textbf{\blue 预条件欠阻尼Langevin动力学}
	\begin{equation*}
		\left\{
		\begin{aligned}
			\dot{\xi}_k & = \eta_k, \\
			\dot{\eta}_k & = -\xi_k - \frac{\beta_N}{\omega_k^2 + a} \sum_{j=1}^N
			\nabla V^a(x_j(\bm{\xi})) c_{j,k} - \eta_k + \sqrt{\frac{2}{\omega_k^2 + a}} \dot{B}_k,
		\end{aligned}
		\right.~~~~
		k=0,1,\cdots,N-1.
	\end{equation*}
	该动力学的不变分布是
	\begin{equation*}
		\mu_N(\bm\xi,\bm\eta) \propto
		\exp\bigg(-\frac12\sum_{k=0}^{N-1} {\red (\omega_k^2+a)(|\xi_k|^2+|\eta_k|^2)} - \beta_N \sum_{j=1}^N V^a\bigg(\sum_{k=0}^{N-1} \xi_k c_{j,k}\bigg)\bigg).
	\end{equation*}
\end{frame}

\begin{frame}{预条件Langevin动力学的遍历性}
	\small
	接下来叙述预条件Langevin动力学的遍历性结果. 需要如下假设:
	\begin{block}{\small\textbf{基本假设}}
		给定常数\( a > 0 \), 势能函数
		\vspace{-5pt}
		\begin{equation*}
			V^a(x) = V(x) - \frac{a}{2}|x|^2,~~~~x \in \mathbb{R}^d,
		\vspace{-5pt}
		\end{equation*}
		在\( \mathbb{R}^d \)上二阶可微, 且存在常数\( M_1, M_2 \Ge 0 \)使得:
		\begin{enumerate}
			\setlength{\itemsep}{6pt}
			\item \( V^a(x) \)可以被分解为
			\vspace{-5pt}
			$$
			V^a(x) = V^c(x) + V^b(x),
			\vspace{-2pt}
			$$
			其中\(\nabla^2 V^c(x) \succcurlyeq O_d\) 且\( |V^b(x)| \Le M_1 \) 对任意 \( x \in \mathbb{R}^d \)成立.
			\item \( V^a(x) \) 的Hesse矩阵满足
			\vspace{-5pt}
			$$
			-M_2 I_d \preccurlyeq \nabla^2 V^a(x) \preccurlyeq M_2 I_d
			\vspace{-5pt}
			$$
			对任意\( x \in \mathbb{R}^d \)成立.
		\end{enumerate}
	\end{block}
\end{frame}

\begin{frame}{预条件Langevin动力学的遍历性}
	\begin{block}{\textbf{定理~3.1}~~(p.~39)}
		令$(P_t)_{t\Ge0}$是{\blue 预条件过阻尼Langevin动力学}的Markov半群, 则对$\mathbb R^{2dN}$任意恒正的光滑函数~$f(\bm\xi)$, 有
		\begin{equation*}
			\Ent_{\pi_N}(P_tf) \Le e^{-2{\red \lambda_1} t} \Ent_{\pi_N}(f),~~~~
			\forall t\Ge0,
		\end{equation*}
		其中收敛速率\,{\red$\lambda_1 = \exp(-4\beta M_1)$}.
	\end{block}
	这里$\Ent_{\pi_N}(f)$是指密度函数~$f(\bm\xi,\bm\eta)$在$\pi_N$中的相对熵:
	\begin{equation*}
		\Ent_{\pi_N}(f) := \int_{\mathbb R^d} 
		f \log f \d\pi_N -
		\bigg(\int_{\mathbb R^d} f\d\pi_N\bigg)
		\log \bigg(\int_{\mathbb R^d} f\d\pi_N\bigg).
	\end{equation*}
\end{frame}

\begin{frame}{预条件Langevin动力学的遍历性}
	\begin{block}{\textbf{定理~3.2}~~(p.~41)}
		令$(P_t)_{t\Ge0}$是{\blue 预条件欠阻尼Langevin动力学}的Markov半群, 则对$\mathbb R^{2dN}$中任意恒正的光滑函数~$f(\bm\xi,\bm\eta)$, 有
		\begin{equation*}
			W_{\mu_N}(P_tf) \Le e^{-2{\red\lambda_2} t} W_{\mu_N}(f),~~~~
			\forall t\Ge0,
		\end{equation*}
		其中收敛速率\,{\red$\lambda_2 = \dfrac{a^2}{3M_2^2+5a^2}\exp(-4\beta M_1)$}.
	\end{block}
	这里$W_{\mu_N}(f)$是指密度函数~$f(\bm\xi,\bm\eta)$在$\pi_N$中的类相对熵:
	\begin{equation*}
		W_{\mu_N}(f) = \bigg(\frac{M_2^2}{a^2}+1\bigg) \Ent_{\mu_N}(f) +
		\sum_{k=0}^{N-1} \frac1{\omega_k^2+a}\int_{\mathbb R^{2dN}}
		\frac{|\nabla_{\eta_k}f - \nabla_{\xi_k} f|^2 + |\nabla_{\eta_k}f|^2}f \d\mu_N.
	\end{equation*}
\end{frame}

\begin{frame}{预条件Langevin动力学的遍历性}
	定理3.1和3.2中的{\red 收敛速率$\lambda_1$和$\lambda_2$均不依赖于珠数$N$}. 主要证明技术:
	\vspace{0.2cm}
	\begin{itemize}
		\setlength{\itemsep}{8pt}
		\item {\blue 泛函不等式} (Bakry--\'Emery理论, 研究扩散过程的遍历性) \\[2pt]
		Bakry, Gentil \& Ledoux. (2014). Analysis and geometry of Markov diffusion operators (Vol. 103). Cham: Springer.\\[2pt]
		Wang. (2006). Functional inequalities Markov semigroups and spectral theory. Elsevier.
		\item {\blue 广义$\Gamma$算子} (研究退化扩散过程的遍历性) \\[2pt]
		Monmarch\'e, P. (2019). Generalized $\Gamma$ calculus and application to interacting particles on a graph. Potential Analysis, 50(3), 439--466.
	\end{itemize}
\end{frame}

\begin{frame}{数值算例: 1维势能函数}
	\small
	令势能函数\(V(x)\)和观测函数\(O(x)\)定义为:
	\vspace{-6pt}
	\begin{equation*}
		V(x) = \frac{1}{2}x^2 + x\cos x, \quad O(x) = \sin\left(\frac{\pi}{2}x\right), \quad x \in \mathbb{R}.
	\vspace{-6pt}
	\end{equation*}
	采用{\blue 预条件欠阻尼Langevin动力学}, 取步长\(h = \frac1{16}\)和演化时间\(T = 5 \times 10^6\).
	\vspace{-0.1cm}
	\begin{center}
		\includegraphics[width=0.48\textwidth]{run_beta_N/S1.png}
		\includegraphics[width=0.48\textwidth]{run_beta_N/S4.png}\\
	\end{center}
	\vspace{-0.2cm}
	\textbf{图:} 计算正则系宗平均$\avg{O(\hat x)}_\beta$的时间平均误差. 左: $\beta = 1$. 右: $\beta = 4$.\\[4pt]
	可以看出不同的珠数$N$对应的收敛速度大致相同.
\end{frame}

\section{随机分组方法}

\frame{\sectionpage}

\begin{frame}{相互作用粒子系统}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 相互作用粒子系统(interacting particle system, IPS)在计算物理、计算化学乃至定量经济学都有重要的应用.
	\item 设$\mathbb R^d$中的$N$个粒子受到{\blue 外部势能$U(x)$}和{\blue 相互作用势能$V(x)$}的作用, 则$\mathbb R^{dN}$中的目标分布$\pi(\bm x)$可以写为
	\begin{equation*}
		\pi(\bm x) \propto \exp(-{\blue\sum_{i=1}^N U(x^i)} - {\blue\frac1{N-1}\sum_{1\Le i<j\Le N} V(x^i-x^j)}).
	\end{equation*}
	\item 目标: 使用{\red 漂移力$b(x) = -\nabla U(x)$}和{\red 相互作用力$K(x) = -\nabla V(x)$}的信息高效采样$\pi(x)$.
\end{itemize}
\end{frame}

\begin{frame}{相互作用粒子系统}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 可以构造一个Langevin动力学采样目标分布$\pi(x)$.
		\item \textbf{\blue 相互作用粒子系统 (IPS)}:
		\begin{equation*}
			\dot x_t^i = b(x_t^i) +
			\frac1{N-1}
			\sum_{j\neq i} K(x_t^i - x_t^j)
			+ \sqrt{2} \dot B_t^i,\quad
			i=1,\cdots,N,
		\end{equation*}
		其中$\{B_t^i\}_{i=1}^N$为独立的Brown运动.
		\item 在IPS的离散格式中, 计算全部的相互作用力$\{K(x^i-x^j)\}_{i\neq j}$需要\,{\red $\mathcal O(N^2)$}的复杂度, 这在粒子数$N$较大时是非常大的开销.
	\end{itemize}
\end{frame}

\begin{frame}{相互作用粒子系统}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 随机分组方法(RBM)是采样IPS的一种快速算法, 它的核心思想是类似于{\blue 随机梯度下降(SGD)}\,给出{\red 粒子所受合力的无偏估计}.
	\item 给定$\mathbb R^d$中的粒子系统$\{x^i\}_{i=1}^N$. 若$\mathcal C$是$\{1,\cdots,N\}$的大小为$p$的随机子集, 则在$i\in \mathcal C$的条件下, 有
	\begin{equation*}
		\mathbb E\bigg[\frac1{p-1} \sum_{j\in\mathcal C,j\neq i} K(x^i-x^j):i\in\mathcal C\bigg] = \frac1{N-1} \sum_{j\neq i} K(x^i-x^j),
	\end{equation*}
	因此左式是\,{\red $x^i$所受合力的无偏估计}.
\end{itemize}
\end{frame}

\begin{frame}{相互作用粒子系统}
\begin{itemize}
	\setlength{\itemsep}{12pt}
	\item 若在每次迭代中, 将$\{1,\cdots,N\}$划分为若干大小为$p$的子集, 且只在这些子集内部计算相互作用力, 则可显著降低复杂度.
	\item \textbf{\blue 随机分组相互作用粒子系统 (RB--IPS)}:\\[6pt]
	对每个$n\Ge0$, 将$\{1,\cdots,N\}$随机划分为大小为$p$的子集$\mathcal C_1,\cdots,\mathcal C_q$. 当$t\in[nh,(n+1)h)$时, 
	$\bm y_t = \{y_t^i\}_{i=1}^N$满足
	\begin{equation*}
		\dot y_t^i = b(y_t^i) +
		\frac1{p-1}\sum_{j\neq i,j\in\mathcal C} K(y_t^i - y_t^j) +
		\sqrt{2} \dot B_t^i,\quad i\in\mathcal C,
	\end{equation*}
	其中$\mathcal C\in\{\mathcal C_1,\cdots,\mathcal C_q\}$是包含粒子$i$的唯一子集.
	\item RB--IPS中相互作用力的复杂度为\,{\red $\mathcal O(Np)$}.
\end{itemize}
\end{frame}

\begin{frame}{相互作用粒子系统}
	\begin{itemize}
		\setlength{\itemsep}{12pt}
		\item 在RB--IPS中使用Euler--Maruyama离散格式, 可得到下述采样算法.
		\item  \textbf{\blue 离散随机分组相互作用粒子系统 (discrete RB--IPS)}:
		对每个$n\Ge0$, 将$\{1,\cdots,N-1\}$随机划分为大小为$p$的子集$\mathcal C_1,\cdots,\mathcal C_q$.
		\begin{equation*}
			Y_{n+1}^i = Y_n^i + \bigg(b(Y_n^i) + \frac1{p-1} \sum_{j\neq i,j\in\mathcal C} K(Y_n^i - Y_n^j) \bigg) h +
			\sqrt{2} (B_{(n+1)h}^i - B_{nh}^i),~i\in\mathcal C.
		\end{equation*}
		\item 目标: 估计{\red 数值解$\bm Y_n = \{Y_n^i\}_{i=1}^N$采样目标分布$\pi(\bm x)$的误差}.
	\end{itemize}
\end{frame}

\begin{frame}{随机分组方法}
	记RB--IPS和discrete RB--IPS的对偶半群为$\mathscr Q_n^h$和$\tilde{\mathscr Q}_n^h$. 论文证明了:
	\begin{itemize}
		\item RB--IPS有与$N$无关的收敛速率:
		\vspace{-6pt}
		\begin{equation*}
			{\blue\mathcal W_1(\nu \mathscr Q_n^h,\pi^h)} \lesssim {\red e^{-\beta nh}}
			\mathcal W_1(\nu,\pi^h),
		\vspace{-6pt}
		\end{equation*}
		且其不变分布$\pi^h$满足
		\vspace{-6pt}
		$$
		{\blue\mathcal W_1(\pi^h,\pi)} \lesssim \sqrt{\frac{h}{p-1}+h^2}.
		\vspace{-6pt}
		$$
		\item discrete RB--IPS的采样误差可控制为
		\vspace{-6pt}
		\begin{equation*}
			{\blue\mathcal W_1(\nu\tilde{\mathscr Q}_n^h,\pi)} \lesssim {\red e^{-\lambda nh} + \sqrt{h}}.
		\vspace{-6pt}
		\end{equation*}
	\end{itemize}
\end{frame}

\begin{frame}{遍历性和采样误差}
	接下来叙述RB--IPS的遍历性和discrete RB--IPS的采样误差结果.
	\begin{block}{\textbf{基本假设 1}~~(全局Lipschitz条件)}
		对于漂移力$b(\cdot)$, 存在常数$L_0$使得
		\vspace{-6pt}
		\begin{equation*}
			|b(x)| \Le L_0(|x|+1),~~~~\forall x\in\mathbb R^d.
		\vspace{-6pt}
		\end{equation*}
		对于相互作用力$K(\cdot)$, 存在常数$L_1$使得
		\vspace{-6pt}
		\begin{equation*}
			\max\{|K(x)|,|\nabla K(x)|,|\nabla^2 K(x)|\} \Le L_1,~~~~
			\forall x\in\mathbb R^d.
		\end{equation*}
		\vspace{-20pt}
	\end{block}
	全局Lipschitz条件保证了Euler--Maruyama离散格式的稳定性.
\end{frame}

\begin{frame}{遍历性和长时间误差}
	\begin{block}{\textbf{基本假设 2}~~(漂移力条件)}
		给定$r\Ge0$, 函数$\kappa(r)$定义为
		\begin{equation*}
			\kappa(r) = \inf\bigg\{-
			\frac{(x-y)\cdot(b(x)-b(y))}{|x-y|^2}: x,y\in\mathbb R^d,|x-y|=r
			\bigg\},
		\end{equation*}
		且满足下列条件:
		\begin{enumerate}
			\item $\kappa(r)$在$(0,+\infty)$上连续;
			\item $\kappa(r)$在$(0,+\infty)$上有一致的下界;
			\item $\displaystyle\varliminf_{r\rightarrow\infty} \kappa(r) >0$.
		\end{enumerate}
	\end{block}
	\noindent
	充分条件: 在$\mathbb R^d\backslash B(0,R)$有$\nabla^2 U(x) \succcurlyeq m I_d$对某个$m>0$成立.
\end{frame}

\begin{frame}{遍历性和长时间误差}
\begin{block}{\textbf{定理4.2 \& 4.3}~~(p.~64 \& 69)}
	令$(\mathscr Q_n^h)_{n\Ge0}$为RB--IPS的对偶半群.
	存在常数$L_1^*>0$, 使得当
	\vspace{-6pt}
	$$
	0<L_1\Le L_1^*
	\vspace{-6pt}
	$$
	时, 有不等式:
	\vspace{-6pt}
	\begin{equation*}
		{\blue \mathcal W_1(\mu \mathscr Q_n^h,\nu \mathscr Q_n^h)} \Le C {\red e^{-\beta nh}} \mathcal W_1(\mu,\nu),~~~~\forall n\Ge0
	\vspace{-6pt}
	\end{equation*}
	对任何概率分布$\mu,\nu\in\mathcal P(\mathbb R^{dN})$成立. 并且, RB--IPS的不变分布$\pi^h$满足
	\vspace{-6pt}
	\begin{equation*}
		{\blue\mathcal W_1(\pi^h,\pi)} \Le C\sqrt{\frac{h}{p-1}+h^2}.
	\vspace{-6pt}
	\end{equation*}
	常数$C,\beta,L_1^*$仅依赖于$d,\kappa(\cdot),\sigma,L_0$.
\end{block}
\end{frame}

\begin{frame}{遍历性和长时间误差}
	\begin{block}{\textbf{定理4.5}~~(p.~78)}
		令$(\tilde{\mathscr Q}_n^h)_{n\Ge0}$为discrete RB--IPS的对偶半群.
		存在常数$L_1^*,h^*>0$, 使得当
		\vspace{-6pt}
		$$
		0<L_1\Le L_1^*,~~~~
		0<h\Le h^*
		\vspace{-6pt}
		$$
		时, 对于给定的初始分布$\nu\in\mathcal P(\mathbb R^{dN})$, 有不等式:
		\vspace{-6pt}
		\begin{equation*}
			{\blue\mathcal W_1(\nu\tilde{\mathscr Q}_n^h,\pi)} \Le C {\red e^{-\lambda} nh} + C\red{\sqrt{h}}.
		\vspace{-6pt}
		\end{equation*}
		常数$C,\lambda,L_1^*,h^*$仅依赖于$d,\kappa(\cdot),\sigma,L_0$和初始分布$\nu$.
	\end{block}
	特别的, 这些常数都{\red 不依赖于粒子数$N$, 分组大小$p$和步长$h$}.
\end{frame}

\begin{frame}{遍历性和长时间误差}
	主要证明技术:
	\begin{itemize}
		\setlength{\itemsep}{8pt}
		\item {\blue 反射耦合方法}\\[4pt]
		Eberle. (2016). Reflection couplings and contraction rates for diffusions. {\it Probability theory and related fields}, 166, 851-886.
		\item {\blue 三角不等式} (有限时间误差+遍历性$\Longrightarrow$长时间误差) \\[4pt]
		Mattingly, Stuart \& Tretyakov. (2010). Convergence of numerical time-averaging and stationary measures via Poisson equations. {\it SIAM Journal on Numerical Analysis}, 48(2), 552-577.\\[4pt]
		Schuh, \& Souttar. (2024). Conditions for uniform in time convergence: applications to averaging, numerical discretisations and mean-field systems. arXiv preprint arXiv:2412.05239. (Inspired from my work)
	\end{itemize}
\end{frame}

\begin{frame}{数值算例: 相互作用系统}
	设外部势能$U(x)$和相互作用势能$V(x)$为
	\begin{equation*}
		U(x) = \frac12x^2 + 3.5e^{-(x-0.3)^2},~~~~ V(x) = -e^{-x^2}.
	\end{equation*}
	\begin{center}
		\begin{minipage}{0.5\textwidth}
			\includegraphics[width=\textwidth]{distribution.png}
		\end{minipage}
		\begin{minipage}{0.45\textwidth}
			\textbf{图:} 目标分布\(\pi(\bm{x})\) 在 \(x^1\) 上的边缘分布与 \(\exp(-U(x))\) 的对比，反映了相互作用项 \(V(x)\) 对整体分布的影响.
		\end{minipage}
	\end{center}
\end{frame}

\begin{frame}{数值算例: 相互作用系统}
	\begin{center}
		\includegraphics[width=0.65\textwidth]{sampling_error.png}
	\end{center}
	\textbf{图:} 当粒子数$N=64$时, discrete RB--IPS在不同步长下的采样误差. 可以看出, 离散误差占主要部分, 而随机分组误差占比很小.
\end{frame}

\section{总结和致谢}

\begin{frame}{总结和展望}
	\small
	\red{已有的工作:}
	\begin{enumerate}
		\item 验证了路径积分分子动力学 (PIMD) 在欠阻尼 Langevin 方程形式下能够实现与珠数 $N$ 无关的收敛速度, 这一结果提升了该方法的理论适用性.
		\item 研究了随机分组相互作用粒子系统 (RB--IPS) 的遍历性, 并分析了离散版本 (discrete RB--IPS) 的采样误差, 为相关采样算法的理论研究奠定了基础.
	\end{enumerate}
	\mbox{}\\[-6pt]
	\red{未来的研究计划:}
	\begin{enumerate}
		\item 针对随机梯度采样算法进行严格的误差分析, 并进一步完善其理论框架.
		\item 借助机器学习技术和扩散生成模型, 探索设计新型高效的采样算法, 以提高复杂分布采样的适用范围.
		\item 针对更为实际的应用场景(如高维物理和数据科学问题), 设计专门的采样算法, 提升其在实际问题中的表现.
	\end{enumerate}
\end{frame}

\end{document}