re:Invent现场直击:打破大模型市场壁垒 亚马逊云科技跃升
2024年re:Invent过半,亚马逊云科技不断展示从基础设施到中间层,再到应用层,亚马逊云科技为生成式AI全体系更新云计算系统,展示出系统创新能力。显然,亚马逊云科技是不同意“在GenAI道路上追赶”这一说法的,要做就做GenAI 落地应用的引路者。在Monday Night Live中,亚马逊云科技高级副总裁Peter DeSantis不仅科普了云计算时代和AI时代基础设施的变化,还分享亚马逊云科技从芯片到数据中心的创新,以此满足大模型训练和Gen AI的业务需求。
亚马逊CEO Andy Jassy
亚马逊云科技CEO Matt Garman
在周二的主论坛中,亚马逊云科技CEO Matt Garman邀请“云计算教父”亚马逊CEO Andy Jassy同台,继续围绕亚马逊云科技在云计算核心领域计算、存储、数据、模型推理的重大创新,以及生成式AI应用构建服务Amazon Bedrock,AI助手Amazon Q进行重大发布。亚马逊云科技AI与数据副总裁Dr.Swami继续聚焦在SageMaker AI的品牌升级, Amazon Bedrock的全面更新,以及生成式AI助手Amazon Q重大发布,最新发布Amazon Bedrock Marketplace,提供了来自领先供应商的100多个新兴和专业基础模型,为客户提供更多选择,来加速GenAI 的落地的应用步伐。亚马逊CEO Andy Jassy的出场无疑成为今年大会的一大热点,当他发布生成式AI基础模型Amazon Nova时,现场更是火爆起来。新发布的Amazon Nova基础模型共包括四大模型:可用于简单任务的超高性价比文字处理Micro模型;三种多模态模型——低成本的Lite模型;兼具准确性、速度和成本的Pro模型;用于复杂的推理任务同时也可进行蒸馏定制的Premier模型。
Nova模型支持微调(Fine-tuning),蒸馏(Distillation)训练更小的模型。Nova模型与Amazon Bedrock知识库深度集成,可用于RAG,以根据自己的数据生成响应。
此外,亚马逊云科技还发布图像生成模型Amazon Nova Canvas和视频生成模型 Amazon Nova Reel。Andy Jassy介绍,在2025年一季度左右,亚马逊云科技将提供语音到语音的模型,分别是Speech-to-Speech和Any-to-Any模型。Amazon Nova模型推出后,客户自然要与同类模型相比,从官方给出的数据来看,无论是Nova Lite还是Nova Pro,Nova在所有基准测试中都是相等或更好,极具竞争力。
亚马逊云科技AI与数据副总裁Dr.Swami
而在周三的主题演讲中,Dr.Swami继续发布两大模型AI模型Poolside Assistant、Luma AI等。
与亚马逊云科技生成式AI产品总监Sherry Marcus博士合影
会后,亚马逊云科技生成式AI产品总监Sherry Marcus博士在接受采访中表示,随着时间的推移,客户需求关乎三点:希望模型优设计好,成本、时延低但准确要高。因此,团队在构建Nova的时候,将成本降低了75%,试想当亚马逊云科技打破市场壁垒,给了成本更低的选择,用户会有更多购买的意愿。同时Sherry Marcus表示,比如绝大多数的这种模型供应商在正式发布之前,进入生产环节之前都会做微调,可以针对一些偏见或者一些常见的这种攻击行为进行微调,这个过程可以称为 0 层的防御。在真正这些模型上到Amazon Bedrock 之前,亚马逊云科技会针对它的忠实性,无偏见性,稳定性和安全性再进行测试和评估。这是第一环节。第二个环节是针对使用模型的客户,亚马逊科技提供Guardrail服务,客户可以用这个服务来针对自己的需求,甚至制定一个更高的安全的标准和要求。在问道Amazon Nova和 Amazon Titan的区别时,Sherry Marcus表示,希望通过名字命名,告诉用户这是一套不同的系列,二者进行多式联动的同时还可以使成本大幅降低。Nova是一个全新的系列,主要用到了新的专业知识,包括学术界和行业方面积累的经验,比如金融行业。与此同时,亚马逊云科技继续在Amazon Titan这个人工智能基础模型上面加大投入。从 LLAMA 2 到 LLAMA 3,大模型的升级也就三个月时间,当谈到Nova的升级计划时,Sherry Marcus期待能够以和竞争对手相提并论的速度来推出升级。但前提是:基于客户使用Nova之后的反馈来做升级,可以感受到看来亚马逊云科技的价值观始终贯穿在每一个产品构建单元中。正如CEO Matt Garman所言,根据客户需求进行创新,始终是亚马逊云科技发展和前行的动力,无论是根据场景进行芯片测试验证,还是根据需求提供多种大模型选择,亚马逊云科技将几乎所有技术能力分解为独立的组件——“构建单元”(building blocks),以易用、高性价比的组件形式服务客户,以满足客户各种场景的需求。这不仅是亚马逊云科技持续创新的动力,也是GenAI落地的基本叙事逻辑。