PHD OPPORTUNITY · BOOKUNI
离散扩散模型理论博士岗位 F/M
法国国家信息与自动化研究所Inria
巴黎 · 法国
01项目概览
本博士项目研究用于生成类别数据的离散扩散模型的理论基础,重点关注通过神经网络估计得分函数时的学习与泛化能力。研究方法包括理论探索、实验验证及撰写学术论文。
02研究内容
研究任务:
离散扩散模型已成为生成文本及其他类别数据时,自回归模型之外的一类主要方法 [1, 2]。它们利用神经网络学习的得分函数,逆转逐渐扰乱数据的马尔可夫链来生成样本 [1]。尽管实证表现成功,理论理解仍远不如连续扩散模型成熟。
本博士研究离散扩散模型的理论基础,特别是神经网络估计得分函数时的学习及泛化能力。在近期统计分析 [3, 4] 及扩散模型泛化界 [5] 基础上,研究统计误差、逼近误差和优化误差如何影响生成样本质量,并通过数值实验验证理论。
参考文献:
[1] A. Lou、C. Meng、S. Ermon,《通过估计数据分布比率进行离散扩散建模》(Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution),ICML,2024。
[2] S. S. Sahoo、M. Arriola、Y. Schiff、A. Gokaslan、E. Marroquin、J. T. Chiu、A. Rush、V. Kuleshov,《简单有效的掩码扩散语言模型》(Simple and Effective Masked Diffusion Language Models),NeurIPS,2024。
[3] Z. Zhang、H. Fu、Z. Yang、M. Wang、T. Zhao、M. Chen,《离散扩散的泛化界:掩码的统计优势》(Generalization Bounds for Discrete Diffusion: Statistical Advantage of Masking),ICML,2026。
[4] L. Blunda、T. Farghly、U. Şimşekli、A. Durmus,《稀疏条件下离散扩散模型的极小极大最优性》(Discrete Diffusion Models are Minimax Optimal Under Sparsity),arXiv:2610.19020,2026。
[5] B. Dupuis、D. Shariatian、M. Haddouche、A. Durmus、U. Şimşekli,《扩散模型依赖算法与数据的泛化界》(Algorithm- and Data-Dependent Generalization Bounds for Diffusion Models),arXiv:2506.03849,2026。
主要活动:开展理论研究;开展实验进行实证验证;撰写学术文章,并在适当平台传播科研成果。
03申请条件
技能要求:
技术技能及水平:英语达到高水平专业/学术使用能力;Python 及相关深度学习库编程能力良好。
04资助与待遇
福利:
餐饮补贴;部分公共交通费用报销;每年 7 周年假,另有因法定缩短工时(RTT)产生的 10 天额外休假,并可申请子女生病、搬家等特殊假;远程办公及灵活工时;提供视频会议、电脑设备借用等专业装备;社会、文化及体育活动;职业培训;社会保险保障。
申请此岗位。
05申请材料与流程
申请说明:
国防安全:岗位很可能位于第 2011-1425 号法令所定义的限制区域(ZRR),涉及国家科学技术潜力保护(PPST)。依照 2012 年 7 月 3 日 PPST 法令,须经部长作出有利决定后,由单位负责人批准进入。若部长对位于 ZRR 的该岗位作出不利决定,将取消聘任。
招聘政策:作为多元政策一部分,Inria 所有岗位均向残障人士开放。