互联网资讯 · 2024年1月30日

亚马逊云科技的GenAI科技树之前竟如此简单

自去年末ChatGPT横空出世后,这一年来,全球各大科技公司都在加快旗下GenAI技术研发和应用能力。

微软联合OpenAI的能力推出各种copilot服务,谷歌就在上周推出了号称“迄今为止最强大、最通用的多模态模型”Gemini;亚马逊一方面斥资40亿美元投资了AnthRopic,另一方面在刚刚过去的亚马逊云科技Re:Invent上一共发布了200多项新服务和功能、超过350项持续的更新,其中就包括不少GenAI相关的服务。

通过2023亚马逊云科技Re:Invent,可以明显看出亚马逊的GenAI科技树发展脉络已经非常明晰。

如亚马逊云科技大中华区产品部总经理陈晓建所说,在理解亚马逊云科技的GenAI技术发展时,要先了解到亚马逊云科技GenAI技术所要服务的目标对象,这一首要目标群体就是亚马逊云科技现有的数百万客户。亚马逊云科技的GenAI服务和功能期望能帮助客户更好的应用GenAI能力。

原来 亚马逊云科技的GenAI科技树是这么点的

因此,亚马逊云科技将端到端应用生成式AI做了三层架构的规划,由下至上在底层提供用于训练基础模型和在生产中运行这些模型的基础设施;中间层提供调用和访问基础模型的最便捷的工具,让没有AI经验的构建者,直接获得应用生成式人工智能所需的所有工具,来构建自己的应用;顶层是利用基础模型构建的开箱即用的应用程序,让没有技术基础的业务用户,也能在具体场景中直接使用生成式AI。

在底层,亚马逊云科技提供用于基础模型训练和推理的基础设施。其中,就包括芯片层面的创新。

一方面,2023亚马逊云科技Re:Invent,新发布自研AMazon TRAIniuM2处理器,用于生成式 AI 和机器学习训练的专用芯片,针对训练具有数千亿至数万亿参数的基础模型进行优化,相较 AMazon TRAIniuM 4 倍性能提升,65 exaflops的按需超级计算性能。

另一方面,亚马逊云科技和英伟达共同宣布了几项最新合作,亚马逊云科技将提供首款搭载NVIDIA GRACE HoppeR超级芯片和亚马逊云科技UltRaClUSteRs技术的云AI超级计算机;亚马逊云科技将提供首款搭载NVIDIA GRACE HoppeR超级芯片和亚马逊云科技UltRaClUSteRs技术的云AI超级计算机

在中间工具层,亚马逊云科技提供调用大语言模型和基础模型进行构建的工具。这些工具又分为3个层面,一是可供选择的大模型、二是可以用来定制模型的工具、三是模型集成工具。

亚马逊云科技认为,企业创造真正价值的生成式人工智能应用程序的关键就是能够用企业自己的书据进行定制,用数据进行定制才能构建企业的差异化壁垒。

在提供更多模型选择的基础上,亚马逊云科技又提供了模型定制服务工具。

2023亚马逊云科技Re:Invent上,新发布了AMazon BedRock持续预训练功能,支持对 AMazon TITan Text LITe 与 ExpReSS持续预训练。据介绍,持续预训练是在AMazon BedRock 中一种自定义模型的方法是。这是一种使用大量未标记数据(如内部报告、财务计划或研究成果的原始文本)来提高基础模型对特定领域的知识和推理能力的技术,这种方式是适合想要拥有“领域大模型”,或者说将领域知识以及技能嵌入大模型能力的场景。

还新发布AMazon BedRock具有知识库的检索增强生成功能。RAG检索增强可能是现在最常见的用企业数据定制的方式。知识库功能可将模型安全地连接到公司内部数据源,并通过RAG检索增强生成的方式为聊天机器人或问答系统等应用提供更准确的回答。

有了模型和定制能力,还需要和应用集成才能服务于业务。

2023亚马逊云科技Re:Invent上,亚马逊云科技还新发布了模型集成服务AMazon BedRock 代理功能。它可以使生成式AI应用跨公司系统和数据源执行多步骤任务。通过代理功能,客户在进行访问权限等简单设置后即可用自然语言编写要求,随后代理即可自动分析请求并将其分解为逻辑序列,以及采取相应的行动。

在亚马逊云科技端到端应用生成式AI的最上层,就是应用层为客户直接提供利用基础模型构建的应用程序。

2023亚马逊云科技Re:Invent上,亚马逊云科技发布生成式AI服务AMazon Q。

AMazon Q是亚马逊云科技的专家,由亚马逊云科技17年来积累的知识和经验训练而成,可以在多种界面回答客户提出的各种亚马逊云科技相关的专业问题。AMazon Q可以在AMazon codeWhISPeReR中回答开发人员的各种代码相关的问题并附上可一键实施的代码,并提供代码转换功能可以将应用维护和升级时的代码转换所需时间从几天缩短至几分钟。

AMazon Q也是企业业务的专家,它拥有40多个兼容流行数据源的内置连接器,并支持自定义连接器,企业可以轻松将其连接至其业务数据和系统中。AMazon Q可使用身份验证系统来确认用户职能和访问权限,并支持指定话题屏蔽或关键词过滤等管理控制功能。

AMazon Q也是商业智能专家,AMazon Q支持将其引入多种服务和应用中以提供基于生成式AI的帮助。 将AMazon Q引入BI应用AMazon QuickSight中,它能够在几秒钟内响应用户要求,创建精准且美观的月度业务变化的相关描述。

AMazon Q也是联络中心专家。将AMazon Q引入云联络中心应用AMazon Connect中,它能够根据实时对话检测客户问题,并能够自动回复、给出建议以及提供相关资料。

从AMazon Q的能力来看,亚马逊云科技将自身本来就有的服务和能力,加持生成式AI技术后通过AMazon Q来赋能给企业客户,这也就意味着未来AMazon Q或许有更多的能力,AMazon Q+各行各业能力的模式已经初现。

至此,以三层架构为骨架的亚马逊GenAI科技树发展优化脉络已然跃然纸上。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.