在金融科技不断革新的背景下，面对大模型、生成式AI等全新的行业浪潮，如何在这波数字化浪潮中精准出击，已成为农信机构的广泛共识。北京可利邦信息技术股份有限公司凭借其在数字金融领域的深厚积淀和技术优势，正成为这一领域的关键推动者。

8月20日，农商银行首席信息官联席会2024-2025年度课题开题会暨农信机构大模型实验室服务与产品方案发布会在广东深圳隆重召开。此次会议由中国农村金融杂志社主办，北京可利邦信息技术股份有限公司承办，由来自18个省级联社（农商银行）的近50位科技领域的领导和专家参与，共同探讨如何在数字金融时代推动行业创新和科技进步。

课题开题环节

在课题开题环节，北京农商银行、陕西省联社、湖北省联社、山东省联社、吉林省联社、贵州省联社6家课题牵头单位的代表分别汇报了各自的研究进展和初步成果。随后进入的交流讨论环节，各省科技相关负责领导就今年的课题调研内容、成果共享机制、成果适用性等方面提出了观点与建议，并得到了参会领导和专家的高度认可。

农金大模型实验室发布

会议第二部分，北京可利邦信息技术股份有限公司技术中心总经理蒋堃发布了“农信机构大模型应用实验室服务与产品”。这一创新实验室由中国农村金融杂志社与北京可利邦信息技术股份有限公司及各省级农信机构和县市农商银行共建，旨在为农商银行及相关行业提供高效的数字化解决方案。实验室以“共建、共享、共赢”为理念，围绕四大方向——算力资源整合与共享、联合建模与协作、隐私计算与数据安全、业务模式创新与优化，提供定制化的产品和服务，以满足农信机构及相关行业的多样化需求。

蒋堃详细介绍了农金实验室提供的服务，包括

1.场景试用与验证：实验室开放大模型技术的业务场景供农信机构试用，帮助评估技术在实际业务中的可行性和效果，降低应用风险。

2.实战培训与体验营：实验室定期举办培训和体验营，提供大模型开发、部署与应用的全面培训，提升技术人员的核心技能。

3.概念验证（POC）测试：提供POC测试服务，支持农信机构在实施前进行小规模验证，以评估技术方案的实际效果和适配性，为后续部署提供数据支持。

4.定制化大模型一体机解决方案：实验室提供涵盖硬件和软件的定制化大模型一体机解决方案，满足金融行业的私有化部署和合规要求，降低开发门槛，提升部署效率，具体产品包括：

 征腾®智信服务器(6U) RH系列——高性能智能计算一体机：搭载8块寒武纪MLU590-M9（96G）智算智能卡，专为大规模大模型训练和推理设计。单台设备即可满足百亿级大模型的微调训练需求。支持通过高速ROCE或IB网络实现训练集群扩展，具有高扩展性、灵活性和鲁棒性。

 征腾®智信服务器(4U)RH系列——高性价比智算一体机：搭载寒武纪MLU370-X8（48G）智算智能卡，提供较高的性价比，能够支持十亿级大模型的微调训练，适合中小规模的业务应用。

 征腾®智信服务器(2U)RH系列——轻量级推理一体机：搭载2块寒武纪MLU370-X8（48G）智算智能卡，设计用于简单的大模型推理场景，尤其适用于如RAG（检索增强生成）模型等应用场景，兼顾性能与成本。

同时，为了满足农信机构不同应用场景的需求，实验室定制的大模型场景应用方案涵盖智能营销、公文助手、知识助手等多种应用场景，为农信机构提供全方位的技术支持。

最后，蒋堃回答了与会嘉宾提出的关于技术细节和未来合作的提问，进一步阐明了实验室在推动农商银行数字化转型中的关键作用。通过这些服务，可利邦将帮助农信机构更好地应对数字化转型中的挑战，实现技术创新与业务增长的双重目标。

大模型一体机展示

为了进一步展示大模型技术的实际应用，可利邦在会议外场专门设置了大模型应用场景一体机的演示展台，并安排了现场展示环节。通过直观展现智能客服、公文助手等多个应用场景的实际效果，充分展示了大模型技术在实际工作和业务中的应用价值和技术潜力。这一展示受到了与会嘉宾的高度关注，吸引了众多嘉宾驻足体验，并引发了广泛讨论。

此次会议汇聚了多省省级联社（农商银行）首席信息官及科技条线领导与负责人，聚焦行业科技热点，充分发挥了“农商银行首席信息官联席会”在行业交流中的重要作用。可利邦将发挥其在数字金融创新与进步中的引领作用，进一步与农信机构共同加快数字化转型进程。

本文部分内容来源于：https://mp.weixin.qq.com/s/mgMObK_ptNhBbA182mcXrA