用于异构数据的表格基础模型

该博士项目致力于开发下一代表格基础模型（TFM），以有效处理混合类型的表格数据，从而突破处理异构特征目前的限制。主要挑战包括设计新的合成预训练技术以及使 TFM 适应不同的数据类型。申请者应具备扎实的深度学习与编程基础。

职位说明： 项目描述： 利用上下文学习技术的表格基础模型（如 TabICL 和 TabPFN），近期打破了梯度增强树在表格数据领域的主导地位。然而，当前最先进的表格基础模型仅适用于数值型数据，在处理文本、日期及分类标识符等异质特征时存在天然局限。本博士项目旨在通过设计新一代能够处理混合类型表格数据的模型，从而克服这一限制。 核心挑战在于为这些数据类型开发新的合成预训练先验，在必要时调整架构以适配数据类型，并理解几何结构根本不同的标记如何在单一架构中进行交互。

所需个人背景与技能要求： 理想的申请者必须持有（或即将获得）机器学习、计算机科学、应用数学或相关领域的硕士学位，并展现出在以下领域的扎实专业能力： • 具备扎实的深度学习基础，并熟悉Transformer模型及其底层机制。 • 扎实的编程技能（Python），以及使用深度学习框架（PyTorch或TensorFlow）的实践经验。 • 良好的数学基础（概率论、统计学、线性代数），以及能够理解该项目理论层面的能力。 • 对开展独立研究、撰写高质量科学论文以及在 GitHub 上发布可使用的开源代码具有真正的兴趣。