互联网资讯 · 2024年2月18日

云易捷AI一体机提供基于青云QingCloud超融合能力的应用开放框架

没有企业愿意在新一波AI浪潮中掉队,但有能力和成本自研大模型的终究是少数。企业如何便捷使用大模型,低成本地将AI用于业务?

青云科技(qingcloud.com)云易捷产品经理曹振表示,云易捷AI一体机可完美满足众多企业客户的需求。

他介绍,云易捷AI一体机架构分为三层:底层为基于云易捷AI一体机快速搭建支持AI或渲染的混合算力集群;在AI算力调度管理层支持虚拟机和K8s 双管理与调度,通过容器和虚拟机的”双引擎”同时运行容器和虚机的异构负载,保证多样的算力提供;上层为AI应用开发平台,集成PyTorch、TensorFlow等AI框架及MaaS(模型即服务)服务,并通过MCCFlow实现AI应用生命周期的管理。

值得一提的是,MaaS服务内置ChatGPT、GLM和LlaMA大模型,也支持通义千问、盘古、混元、GPT-4、Claude、Falcon等国内外大模型,企业可以结合业务数据进行高效的推理训练,来适配业务场景。

在使用时,集群底层实时根据负载情况自动调整运行资源数量,满足不同规模的AI计算需求。企业可以借助调度平台的节点管理、集群的自动检测、容器运行状态的管理等多方面能力,直观感知集群的健康情况,确保系统的稳定可靠。

除此之外,云易捷AI一体机还具备兼容性强和数据安全优势。AI一体机支持x86架构包括通用芯片或信创芯片,也支持国产或进口的GPU算力卡,训练模型的业务数据都在本地存放,支持数据加密处理,保证业务数据的安全性。

长远来看,大模型等AI技术和产品的创新,激发了企业对自身数字化与AI结合的积极性,催生出众多企业对”便捷”AI的需求。云易捷AI一体机无疑满足了这一点,让没有自研AI大模型能力的企业们,不必担心落后于大模型浪潮。

青云科技于2015年首次推出超融合产品,根据市场需求持续迭代,云易捷产品线于2019年正式发布,定位为”专为中小算力规模打造的轻量化私有云产品”,如今已经推出5个产品:云易捷超融合、云易捷一体机、云易捷AI一体机、信创云易捷、云易捷虚拟化。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册