正在“本源悟空”的量子芯片上,单批次数据可生成数百个量子使命并行处置。尝试数据显示,优化后的模子正在心理征询对话数据集(CPsy-CountD)上锻炼丧失降低15%,数学推理使命(R1-Distill-SFT)的严酷精确率从68%提拔至82%。“本源悟空”是目前我国先辈的可编程、已交付超导量子计较机,已为全球139个国度超2300万人次供给量子算力云办事,完成35万个量子运算使命,涵盖流体动力学、金融、生物医药等多个行业范畴。此外,该量子计较机还成功完成全球最大规模的量子计较流体动力学仿实,并接入金融量子云尝试平台,用于摸索金融范畴更高效的问题处理方案。 据科技日报。
“就比如给典范模子拆上了‘量子引擎’,让两者协同发力。”本源量子副总裁窦猛汉暗示,团队立异设想了“量子加权张量夹杂参数微调”,通过量子计较特征实现智能“微调”——将模子权沉为量子神经收集取张量收集夹杂架构,前者通过量子门操做提取高维非线性特征,张量收集则压缩参数规模。
合肥分析性国度科学核心人工智能研究院副研究员陈昭昀说:“这是量子计较初次‘实机实和’大模子使命,证明现有硬件已能初步支持大模子微调。”?。
记者4月7日从安徽省量子计较工程研究核心获悉,本源量子计较科技(合肥)股份无限公司、合肥分析性国度科学核心人工智能研究院等机构结合攻关,正在我国超导量子计较机“本源悟空”实机上,实现十亿级参数AI大模子微调使命的全球初次运转。通过进一步锻炼特定范畴数据,使其顺应医疗诊断、金融风控等专业场景。保守低秩微调面对机能瓶颈、泛化能力无限等问题,量子计较凭仗其叠加态和纠缠态特征可同时摸索海量参数组合,可提拔大模子微调的效率。
正在“本源悟空”的量子芯片上,单批次数据可生成数百个量子使命并行处置。尝试数据显示,优化后的模子正在心理征询对话数据集(CPsy-CountD)上锻炼丧失降低15%,数学推理使命(R1-Distill-SFT)的严酷精确率从68%提拔至82%。“本源悟空”是目前我国先辈的可编程、已交付超导量子计较机,已为全球139个国度超2300万人次供给量子算力云办事,完成35万个量子运算使命,涵盖流体动力学、金融、生物医药等多个行业范畴。此外,该量子计较机还成功完成全球最大规模的量子计较流体动力学仿实,并接入金融量子云尝试平台,用于摸索金融范畴更高效的问题处理方案。 据科技日报。
“就比如给典范模子拆上了‘量子引擎’,让两者协同发力。”本源量子副总裁窦猛汉暗示,团队立异设想了“量子加权张量夹杂参数微调”,通过量子计较特征实现智能“微调”——将模子权沉为量子神经收集取张量收集夹杂架构,前者通过量子门操做提取高维非线性特征,张量收集则压缩参数规模。
合肥分析性国度科学核心人工智能研究院副研究员陈昭昀说:“这是量子计较初次‘实机实和’大模子使命,证明现有硬件已能初步支持大模子微调。”?。
记者4月7日从安徽省量子计较工程研究核心获悉,本源量子计较科技(合肥)股份无限公司、合肥分析性国度科学核心人工智能研究院等机构结合攻关,正在我国超导量子计较机“本源悟空”实机上,实现十亿级参数AI大模子微调使命的全球初次运转。通过进一步锻炼特定范畴数据,使其顺应医疗诊断、金融风控等专业场景。保守低秩微调面对机能瓶颈、泛化能力无限等问题,量子计较凭仗其叠加态和纠缠态特征可同时摸索海量参数组合,可提拔大模子微调的效率。