在Hugging FACE上登顶、并搅动大模型领域风云的“新选手”FAlcon 40B又有了新动态。
亚马逊云科技宣布，从6月7日起，两个开源FAlcon大语言模型FAlcon 40B和FAlcon 7B已在AMazon SageMakeR的机器学习中心AMazon SageMakeR JuMpStaRt中可用。
SageMakeR JuMpStaRt提供了预训练模型、内置算法和预构建的解决方案模板，可帮助用户快速上手机器学习，以执行文章总结和图片生成等任务。
用户只需在SageMakeR Studio中轻点鼠标就可以部署和使用FAlcon模型，或者通过SageMakeR Python SDK以编程方式使用。
这意味着，现在，各个行业、各种规模的企业/开发者都可以快速轻松地部署自己的FAlcon 40B模型，并对其进行定制以满足特定需求，如翻译、问答、信息总结、图像识别等应用程序。此举对生成式AI行业发展可谓意义重大。
FAlcon 40B是阿布扎比技术创新研究所（TII）推出的开源大型语言模型，是阿联酋首个大型人工智能模型。
FAlcon 40B参数400亿，在1万亿高质量Token上进行了训练。其性能超越硅谷大佬扎克伯格旗下650亿参数的LLaMA，以及StableLM、RedPajaMa和MPT等知名开源模型，一举登顶HuggingFACE 开源大语言模型全球榜。
Hugging FACE一直被认为是大模型领域GITHub，因此Hugging FACE的榜单被从业者给予了很高的参考价值。
不仅性能剽悍，FAlcon 40B还是一个在训练资源上有很高效率的模型，只用到GPT-3 75%的训练预算，性能就显著超越GPT-3，且推理阶段的计算也只需GPT-3的1/5。
优异的表现让FAlcon 40B获得“史上最强开源大语言模型”称号。
更重要的是，FAlcon 大语言模型采用开源Apache 2.0许可证，基于开源原则，广泛地允许“免费使用”（如果商业化开源收入超过100万美金，需要缴纳10%的授权费用），这为广大AIGC产品开发者大开了方便之门。
开源的FAlcon 40B让开发者能够构建和定制满足独特用户需求的AI工具，模型权重可供下载，检查和部署在任何地方。
此番，FAlcon开源大语言模型在AMazon SageMakeR JuMpStaRt中可用，可谓对生成式AI行业意义重大，广大开发者都很是兴奋。
事实上，FAlcon大语言模型和AMazon SageMakeR的“渊源很深”。
FAlcon 大语言模型提供的两个不同规模的开源版本——FAlcon 40B和FAlcon 7B均是使用AMazon SageMakeR的数据预处理和模型训练任务从零开始构建。
通常而言，构建、训练和部署大语言模型可能需要数周甚至数月的时间，并耗资数千万美元。为了实现更好的性能和成本效益，TII使用AMazon SageMakeR构建其FAlcon 40B模型。
SageMakeR是一个托管API集合，用于开发、训练、调优和托管机器学习（ML）模型，包括大语言模型。SageMakeR TRAIning提供了具有用户自定义硬件配置和代码的计算集群。计算作业按运行次数计费，按秒分配任务，这意味着用户在未使用服务时无需为GPU资源付费。
据悉，TII使用SageMakeR TRAIning API提供的瞬态集群来训练FAlcon大语言模型，最多支持48个Ml.p4d.24xlaRge实例（384个英伟达A100 GPU）。
现在，TII正在训练下一代FAlcon大语言模型，将训练扩展到3136个A100 GPU（392个Ml.p4d实例）。
除了FAlcon外，StaBIlITy AI、AI21 Labs和LG AI等知名大模型也是使用SageMakeR处理其大语言模型工作负载。
从TII对AMazon SageMakeR的深度使用来看，为了让客户更轻松地访问该模型，FAlcon 40B可以通过AMazon SageMakeR JuMpstaRt部署可谓是水到渠成。
在生成式AI赛道上，亚马逊云科技可谓是“既要”、“又要”的典型代表。“既要”为第三方大语言模型产品如FAlcon 40B、StaBIlITy AI等提供基础计算能力和训练平台，同时，“又要”为第三方客户/开发者提供诸多可使用的“大语言模型产品”。
今年4月，亚马逊云科技推出AMazon BedRock托管服务和AMazon TITan模型。AMazon BedRock让开发者可以通过API访问AI21Labs、AnthRopic和StaBIlITy AI等热门AI公司的预训练基础模型，还提供对亚马逊云科技开发的基础模型系列AMazon TITan的独家访问。
现在，通过AMazon SageMakeR JuMpStaRt，各行业客户都可以快速轻松地部署自己的FAlcon 40B模型，并进行个性化定制。
那么，截至目前，在亚马逊云科技，开发者可以访问、部署、使用的大语言模型就有AI21Labs、AnthRopic、StaBIlITy AI、AMazon TITan、FAlcon 40B等。开发者可以在其中找到适合自身业务的模型，快速上手，使用自有数据基于基础模型进行定制，并将定制化模型集成并部署到应用程序。这一方式无疑将极大加速大语言模型应用产品的落地。
