降低大型语言模型中的记忆风险

这项博士项目致力于开发隐私技术，以检测、控制并清除大型语言模型（LLMs）中的记忆数据，从而规避个人及受版权保护内容被未经授权复制的风险。主要研究重点包括对记忆行为的审计、减轻其影响，以及提升多智能体人工智能系统的透明度。

关于该项目 大型语言模型会记住其训练数据，并能够复制个人信息、受版权保护的内容以及专有知识产权。本博士项目旨在开发隐私技术，以检测、控制并消除这种记忆现象，涵盖从单个模型到多智能体人工智能系统全过程，从而帮助构建既尊重隐私又维护创作者权益的人工智能系统。 大型语言模型（LLMs）以及基于这些模型构建的人工智能代理正在改变我们的搜索、写作和编程方式。然而，它们的强大功能也伴随着风险：它们会记住训练数据，并可能复制个人数据、受版权保护的内容或专有知识产权（IP）。这些问题是数据保护法律及关于人工智能的持续版权争议的核心问题。 该项目从隐私角度出发研究记忆现象，利用隐私技术来检测、控制并清除大语言模型中的未经授权信息。 可能的研究方向包括： 审查记忆机制：揭示模型是否记住或基于特定个人或受版权保护数据进行训练的隐私攻击 缓解记忆风险：通过机器去记忆技术以及保护隐私的训练方法，能够移除或限制不必要的数据影响，并提供可验证的保证 多智能体系统：通过“人工智能物料清单”等概念，追踪数据与知识产权在模型、数据集、工具及智能体之间的流动情况，从而使这些系统具有透明度并具备可问责性。 预期成果为提供针对大语言模型进行审计与保护的实用方法，以推动符合数据保护和版权法的可信人工智能的发展。 您将加入由 [会员信息] 博士领导的 cyberPUNK 实验室，隶属于网络安全部门，与涵盖法律、金融、人机交互以及人工智能治理领域的行业专家组成的跨学科团队合作。具体研究方向可根据您的兴趣进行调整。 电子与计算机科学学院致力于促进平等与多样性，这体现在我们获得的 Athena SWAN 奖上。我们欢迎所有申请者，无论其性别、种族、残疾状况、性取向或年龄如何，并将充分考虑那些寻求灵活工作模式以及已休过职业休假的申请者。该大学拥有慷慨的产假政策、现场儿童保育设施，并提供多种福利措施，以帮助保障员工的生活质量与工作生活平衡。南安普顿大学致力于可持续发展，并获得了铂金生态奖。

入学要求 您必须拥有英国 2:1 荣誉学位或其国际等效学位，且所学专业属于以下领域之一： 计算机科学 人工智能 或相关学科 具备丰富的机器学习与 Python 编程经验为优。

资助：竞争性资助 学费与资助 我们为英国本土学生和国际学生提供多种资助机会。符合条件的学生可通过“地平线欧洲”学费减免，自动免除国际学生学费与英国本土学生学费之间的差额。 大学通过竞争性遴选授予的校长助学金，为遴选排名靠前的申请人支付国际学生学费与英国本土学生学费之间的差额。 本校各学院通过竞争性遴选提供的博士奖助金，通常为遴选排名靠前的申请人支付按英国本土学生标准收取的学费，并提供生活津贴。 资助采用滚动授予方式，因此请尽早申请，以尽可能增加进入资助评选的机会。 如需更多信息，请访问我们的研究型研究生资助页面。

如何申请 您需： 选择课程类型（研究型）、2027/28学年、工程与物理科学学院 选择全日制或非全日制 选择相关的博士阶段电子与电气工程专业（7092） 第2节需注明指导老师的姓名 申请材料应包括： 个人陈述 您的CV（个人简历） 2份学术推荐信 迄今为止的学位成绩单