同花顺问财推出了 HithinkGPT 大模型，采用 transformer 的 decoder-only 架构。提供7B、13B、30B、70B 和130B 五种版本选择，最大允许32k 文本输入，支持 API 接口调用、网页嵌入、共建、私有化部署等能力，并为用户提供一站式标注和评测服务。
该大模型在金融领域有出色的表现，通过了多个金融考试，得分平均达到75.9分。同花顺利用自身过去十几年的数据积累以及市场上公开的金融数据，预训练金融语料达到万亿级 tokens。模型训练采用科学高效的训练体系，包括数据配比实验方案、scaling law 实验体系、模型架构优化、分布式训练框架优化、硬件加速技术等。同时，模型推理上也进行了优化，包括无损自适应选层剪枝、通信及底层算子优化、多数据中心负载均衡等，使得模型推理吞吐速度提高了八倍以上。
问财 HithinkGPT 大模型升级后成为国内金融领域首个应用大模型技术的智能投顾产品。涵盖 A 股、基金、ETF、港股、美股、债券、宏观等15个业务矩阵，包括50余类技能，为用户提供全面精准、稳定可控的投资决策支持。具有全面的实时金融数据、强大的语义理解、专业的投顾建议、生动的表达形式、可控的内容生成等五大特色优势。
申请内测地址：https://mams.10jqka.com.cn/new/server/html/56793.html
新鲜AI产品点击了解：https://top.aibase.com/
大模型htmlgpt金融数据模型推理自适应codetoken智能投顾模型升级数据中心分布式训练预训练负载均衡etfapi分布式一站式文本输入投资决策ai产品语义理解transformer模型训练决策支持内容生成url
