大模型安全对齐技术研发中心
LLM Safety Alignment Center
【项目简介】
杨耀东研究员团队在AI对齐领域的研究成果，特别是他们提出的RICE原则、HHH标准、BeaverTails数据集、Safe RLHF算法以及Aligner对齐器，不仅在理论上走在行业前列，而且在实践中证明了其卓越的应用价值。这些研究成果极大地加强了公司在AI安全和价值对齐方面的领先地位，并为中心的整体竞争力带来了质的飞跃。
特别是对于中小企业和重点企业，中心开发的大模型技术在提升运营效率和业务安全性方面具有不可小觑的作用。通过引入先进的大模型技术，企业能够在数据分析、客户服务、产品创新等多个环节实现自动化和智能化，极大提高工作效率和决策质量。同时，大模型技术在识别潜在风险、预防安全威胁方面的能力，为企业保护关键数据和维护业务安全提供了坚实的技术支撑。
此外，在教育、医疗、金融等关键领域，中心开发的大模型技术已经开始发挥其独特的价值。在教育领域，通过个性化学习方案和智能辅导系统，大模型技术正在改变传统的教学模式，为学生提供更加贴合个人需求的学习体验。在医疗领域，大模型技术的应用不仅提升了疾病诊断的准确率和治疗方案的针对性，还在疫情预测、药物研发等方面展现出巨大潜力。在金融领域，通过高级风险管理、智能投资顾问等服务，大模型技术正帮助企业提高风险控制能力，优化资源配置，从而提高市场竞争力。
【牵头人/首席科学家简介】
杨耀东博士，北京大学人工智能研究院研究员（博导）、AI安全与治理中心执行主任。国家高层次留学人才计划、国家高层次青年人才项目、中国科协青年托举计划、北大博雅青年学者获得者。重点研究通用多智能体系统构建、博弈交互与价值对齐等问题，科研领域包括强化学习、博弈论和多智能体系统。本科毕业于中国科学技术大学，随后在伦敦帝国理工大学、伦敦大学学院获得硕士及博士学位（论文获学校唯一提名ACM SIGAI 优博奖）。曾于伦敦国王大学信息学院任助理教授。发表AI领域顶会顶刊论文一百余篇，谷歌引用四千余次，主持国自然、科技部、市科委、校企实验室等项目经费超三千万元。曾获国际计算机视觉会议ICCV’23最佳论文奖入围（Best Paper Initial List）、机器人学习会议CoRL’20 最佳系统论文奖（Best System Paper）、多智能体系统会议AAMAS’21 最具前瞻性论文奖（Best Blue-Sky Paper）、世界人工智能大会（WAIC’22）云帆奖璀璨明星、ACM SIGAI China新星奖。工作曾被央视一套《焦点访谈》、央视四套《深度国际》栏目报道。
