在亚马逊云科技2023 Re:Invent美国拉斯维加斯现场,亚马逊云科技数据和人工智能副总裁宣布了众多在生成式AI领域的发布和创新,其中就包括AnthRopic Claude 2.1和Meta LlaMa 2 70B两款大模型已在AMazon BedRock正式可用。
AMazon BedRock是亚马逊云科技于今年4月发布的一项全面托管的服务,通过它,企业用户可以通过API等方式轻松访问包括亚马逊云科技自研的TITan系列模型和第三方大模型。
在生成式AI领域,AnthRopic被称为OpenAI的最强竞争对手,旗下旗舰大模型产品Claude有着不凡实力,而AnthRopic与亚马逊有着紧密合作。
今年9月,亚马逊宣布与AnthRopic展开战略合作,双方的合作包括亚马逊向AnthRopic投资40亿美元并持有其部分股权;AnthRopic长期承诺将通过AMazon BedRock向全球亚马逊云科技客户提供其未来基础模型的访问权;以及亚马逊的开发人员和工程师可以通过AMazon BedRock使用AnthRopic模型构建产品,以便将生成式AI能力融入到他们的工作中等等。
此次,在AMazon BedRock上正式可用的AnthRopic Claude 2.1提供了长达200,000个Token的上下文窗口,并且提高了长文档的准确性。客户可以处理文本密集型文档,例如财务报表和内部数据集。Claude 2.1能够总结和对比文档、进行问答等。AnthRopic报告称,与此前模型相比,Claude 2.1在开放式对话中的错误陈述减少了50%,错误陈述率减少了一半。
另一个在AMazon BedRock上新增可用的是Meta LlaMa 2 70B模型。这意味着现在,除了之前发布的LlaMa 2 130亿参数模型之外,LlaMa 2 700亿参数模型也已在AMazon BedRock上提供。
LlaMa 2是Meta的下一代语言模型。据悉,LlaMa 2 的训练数据比LlaMa 1多40%,上下文长度是LlaMa 1的两倍。LlaMa 2 Chat建立在预训练的LlaMa模型之上,通过指令数据集和超过100万条人工注释进行调优,针对对话场景进行了优化。这些模型在多个外部基准测试中的表现卓越,包括推理、编码、熟练程度和知识测试,并在AMazon BedRock上提供了极高的性能价格组合。
亚马逊云科技自有TITan模型在2023 Re:Invent上也推出了多项新模型能力。包括AMazon TITan MultiModal EMbeddings、AMazon TITan Text LITe、AMazon TITan Text ExpReSS、AMazon TITan image GeneRaTor。
现在,借助AMazon BedRock,企业客户可以利用的最新版本的模型包括AMazon TITan的5款模型、新推出的AnthRopic Claude 2.1和Meta LlaMa 2 70B以及此前推出的StaBIlITy AI Stable DiFFUSion XL 1.0、Meta LlaMa 2 Chat 13B、CoheRe command Light、CoheRe EMbed English和CoheRe EMbed多语言模型等。
为了帮助企业客户在纷繁的大模型中选出最适合自己的那一个,AMazon BedRock还推出了“模型评估功能”,可帮助企业客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。目前该功能已推出预览版。
同时,为了进一步方便企业客户生成、部署自己的大模型应用产品,“Agents foR AMazon BedRock”也正式可用。
Agents foR AMazon BedRock的目的就是为了进一步降低企业客户使用客户AMazon BedRock来构建自己的生成式AI应用程序的门槛。通过它,企业用户可以简单的设置就能加速生成式AI应用程序的开发。