本项目旨在通过研发关键技术和高效推理部署方案,解决大型模型(如基于transformer的decoder-only架构模型)在实际应用中面临的高成本问题。大型模型虽然性能强大,但其庞大的参数量和复杂的计算需求导致推理成本高昂,成为技术推广的主要障碍。项目重点在于优化模型的前向推理过程,提升资源利用率和推理速度
数据跨境流通技术研究中心Data Cross-border Transfer Technology Research Center【中心及项目简介】数据跨境流通技术研究中心基于北京大学2018年国家技术发明一等奖获得者黄罡教授团队的国内自主可控数联网基础平台,全球首创数据要素计量单位DRs,通过数据精准计量、数据库确权算法、数据语义规范化等创新技术,建设国际领先的数据跨境登...
新结构材料技术研发中心New Structural Materials Technology Research and Development Center【项目简介】由北京大学科研团队、海内外校友联合新材料领域龙头企业共同建立,致力于突破新材料领域“卡脖子”技术,强化新材料科研成果的市场竞争力。以新材料技术创新与市场需求为导向,以解决行业共性技术难题并进行产业化为发展思路;以引进...
运动医学创新医疗器械转化中心The Center for Advancement in Sports Medicine Innovation and Medical Devices【项目简介】根据相关数据统计,运动医学领域近年来增长率在骨科领域中呈显著上升趋势,预计到2027年,全球运动医学市场规模将达到152亿元,预计年复合增长率为8.2%。由于运动损伤的发生率不断提高以及越来越多的人参与体育和健身...