没有企业愿意在新一波AI浪潮中掉队,但有能力和成本自研大模型的终究是少数。企业如何便捷使用大模型,低成本地将AI用于业务?
青云科技(qingcloud.com)云易捷产品经理曹振表示,云易捷AI一体机可完美满足众多企业客户的需求。
他介绍,云易捷AI一体机架构分为三层:底层为基于云易捷AI一体机快速搭建支持AI或渲染的混合算力集群;在AI算力调度管理层支持虚拟机和K8s 双管理与调度,通过容器和虚拟机的”双引擎”同时运行容器和虚机的异构负载,保证多样的算力提供;上层为AI应用开发平台,集成PyTorch、TensorFlow等AI框架及MaaS(模型即服务)服务,并通过MCCFlow实现AI应用生命周期的管理。
值得一提的是,MaaS服务内置ChatGPT、GLM和LlaMA大模型,也支持通义千问、盘古、混元、GPT-4、Claude、Falcon等国内外大模型,企业可以结合业务数据进行高效的推理训练,来适配业务场景。
在使用时,集群底层实时根据负载情况自动调整运行资源数量,满足不同规模的AI计算需求。企业可以借助调度平台的节点管理、集群的自动检测、容器运行状态的管理等多方面能力,直观感知集群的健康情况,确保系统的稳定可靠。
除此之外,云易捷AI一体机还具备兼容性强和数据安全优势。AI一体机支持x86架构包括通用芯片或信创芯片,也支持国产或进口的GPU算力卡,训练模型的业务数据都在本地存放,支持数据加密处理,保证业务数据的安全性。
长远来看,大模型等AI技术和产品的创新,激发了企业对自身数字化与AI结合的积极性,催生出众多企业对”便捷”AI的需求。云易捷AI一体机无疑满足了这一点,让没有自研AI大模型能力的企业们,不必担心落后于大模型浪潮。
青云科技于2015年首次推出超融合产品,根据市场需求持续迭代,云易捷产品线于2019年正式发布,定位为”专为中小算力规模打造的轻量化私有云产品”,如今已经推出5个产品:云易捷超融合、云易捷一体机、云易捷AI一体机、信创云易捷、云易捷虚拟化。