湖北大数据集团词元交易中心上线
在日前举行的湖北省算力产业生态大会上,湖北 大数据 集团词元交易中心(以下简称“湖北词元交易中心”)发布。这是面向企业级用户的大模型服务统一管理平台,企业一次接入,即可调用平台已上架的200余款模型服务。据 综合 测算,中心可为企业节约15%至30%的用模成本。
企业使用AI普遍遇到模型获取难、使用成本高、分级管控难、安全保障难等一系列问题。在业内专家看来,当前企业缺的不只是一个模型,而是一套把模型用起来、管起来、算明白的服务体系。
湖北词元交易中心有望解决上述难题。该中心将200余款模型服务集中到一个入口,企业一次接入,即可按模型类型、服务商、能力等条件进行筛选、试用和调用。其通过统一协议与单点登录,实现密钥托管、内容过滤、全链路审计等安全保障,把分散在不同服务商之间的安全管理能力集中起来。
同时,该中心智能路由为每一次调用择优选型,语义缓存让每一个词元物尽其用,故障转移保障业务连续不断线。词元消耗量和费用可按组织、部门、项目、个人等类别多维度查看,企业不必等到月底时面对一张“AI总账单”,而是随时可以拆开来看谁在用、用了什么、花了多少。
此外,依托湖北 大数据 集团有限公司建设运营的湖北算力互联互通平台、湖北省 人工智能 公共服务平台、中部数据流通服务中心等省级平台能力,湖北词元交易中心把算力调度、数据流通、模型服务和交易撮合等模块连接起来,打通模型供给、词元计量、统一结算、供需对接等环节,让AI能力像商品一样可选、可购、可计量、可流通。
湖北 大数据 集团数据开发有限公司相关负责人介绍,今后,企业在该中心买词元就像充话费一样,可以根据自己的需求去选择。
目前,该中心已汇聚326家生态伙伴,将算力、数据、模型和应用放到同一条链路上:算力提供“生产能力”,数据提供“生产资料”,模型负责把资源转化为实际的AI能力。未来,该中心还将持续丰富模型供给、优化智能调度能力、强化安全防护水平,并深化与算力互联互通平台、模型厂商和行业伙伴的合作