面向开发人员的全新亚马逊云科技生成式 AI 功能和工具

关键字: [Amazon Web Services re:Invent 2023, Amazon CodeWhisperer, Generative Ai, Software Development, Amazon Web Services Services, Developer Productivity, Language Models]

本文字数: 2100, 阅读完需: 10 分钟

视频

如视频不能正常播放，请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1gc41117kE

导读

探索生成式 AI 编码工具如何改变开发人员和企业构建软件的方式。由生成式 AI 驱动的工具正在通过自动化任务、改善沟通与协作，以及提供可帮助做出更好决策的见解，来提高开发人员和企业的工作效率。在本讲座中，您将看到最新的亚马逊云科技工具和功能，这些工具和功能会使构建人员能够以最少的专业技术知识更轻松地解决问题，并帮助技术团队提高工作效率。了解像美国金融业监管局（FINRA）这样的组织是如何探索生成式 AI 并开始使用这些工具加快创新步伐的。

演讲精华

以下是小编为您整理的本次演讲的精华，共1800字，阅读时间大约是9分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。

在会议开始时，埃米尔·勒奇热情地欢迎了与会者，并引入了关于利用生成性人工智能（AI）增强软件工程的话题。尽管像生成性AI和基础模型这样的术语近年来才变得流行，但人工智能作为更广泛的领域可以追溯到几十年前，早在1943年就出现了一些开创性的工作。这些概念在1956年得到了正式的确认，当时“人工智能”这个短语首次在一个学术会议上被提出。

埃米尔详细解释了，2018年的大型语言模型和2021年的基础模型都是人工智能领域的最新发展。亚马逊云科技多年来一直在内部使用这些AI技术，并将其应用于整个业务以帮助客户。演讲的主要目的是探讨亚马逊云科技如何运用最新的AI方法来提升软件开发能力，并让来自不同背景的建设者都能参与到软件创作过程中来。

接下来，埃米尔的亚马逊云科技同事阿迪尔·比尔瓦尼和来自金融业监管局（FINRA）的古达·拉马钱德兰也加入了演讲，他们将分享他们的组织是如何探索生成性AI的应用的。

埃米尔先从面对软件工程团队的三个关键问题开始阐述了生成性AI的价值：

1. 这个技术对我的业务是否有价值？
2. 我的开发人员使用它是否满意？
3. 现在我们可以用这个技术做什么？

为了回答关于商业价值的问题，埃米尔引用了麦肯锡公司进行的一项研究，该研究表明生成性AI在不同行业可能产生的潜在美元影响。在针对企业IT系统和针对外部产品开发的软件工程的类别中，麦肯锡估计在总成本节省和支出百分比方面都具有巨大的潜力。特别是，他们预测在企业IT应用方面的价值为3000-5000亿美元，占总支出的15-25%。在产品工程方面，估计的价值为2000-3000亿美元，占总支出的10-15%。换句话说，生成性AI可以为构建内部业务应用程序以及为客户开发产品的公司带来巨大的财务收益。

关于开发者在使用这些技术时是否感到幸福的问题，埃米尔引用了一项麦肯锡的研究，该研究表明，使用生成性人工智能会导致更具意义和令人满意的工作。调查显示，与工作满意度和工作乐趣相关的指标增加了40%以上。通过自动处理枯燥、重复的任务，如模板代码生成，开发人员可以将更多时间投入到业务逻辑、创造性问题解决和软件创建中他们认为具有内在回报的方面。他们的整体士气和工作满意度显著提高。

在讨论当前准备情况方面的第三个问题时，埃米尔提到了高德纳的研究，表明生成性人工智能现在就可以在实际应用中应用于核心软件工程场景，如编写、审查、测试和部署代码。因此，虽然这项技术仍在迅速发展，但它已经可以对开发者的工作效率和软件交付产生影响了。

接着，埃米尔让听众分享他们自己对生成性人工智能的经验。结果显示，技能水平参差不齐，许多受访者仍在积极研究这项技术或在如何将其应用于组织内部方面感到困惑。埃米尔指出，本次会议将为新手提供扎实的基础概述，同时仍能为更高级的从业者提供价值。

最后，埃米尔简要介绍了亚马逊云科技在生成性人工智能领域的服务，涵盖了技术栈的所有层面：

• 在基础设施层面，像Amazon Elastic Compute Cloud (EC2)、Amazon Simple Storage Service (S3)、数据库和其他云资源这样的核心构建模块为应用程序提供了动力。

• 预构建的AI服务，如Amazon Comprehend和Amazon Rekognition，解决了特定的机器学习使用案例，如自然语言处理和图像分析。

• Amazon SageMaker提供了用于开发定制机器学习模型的工具，以满足组织的具体需求。

• 最新添加的，Amazon[ Bedrock](https://aws.amazon.com/cn/bedrock/guardrails/ ?&trk=42570719-fa2a-4df9-893d-40b6ac004272&sc_channel=el " Bedrock")，可以轻松访问可以适应各种任务的大型基础模型。

• 开发者工具，如Amazon CodeGuru、Amazon CodeWhisperer和新近宣布的Amazon DevOps Guru，有助于将AI功能直接集成到软件开发生命周期中。

艾米总结表示，在整个软件开发生命周期中，最重要的目标是通过运用传统的机器学习以及新兴的基础模型来提高创新速度、工程的一致性、效率以及开发者的满意度。她深入地阐述了这两类方法的主要差异：传统的机器学习模型通常针对特定的标注数据集进行训练，一旦部署，就仅关注该特定用例；而基础模型则是庞大的多用途模型，能够适应各种下游任务，比如Claude模型拥有100亿个参数。开发者可以通过调整超参数并提供上下文示例来微调这些基础模型，这种技术被称为检索增强生成（RAG）。通过提供这两种类型的模型，亚马逊云科技使得开发者能够根据需求选择最适合的方法，从而加速整个软件工程过程的各个阶段。此外，艾米还简要介绍了一些针对开发者的服务，包括Amazon CodeGuru（一款自动提供改进代码质量、安全性和性能建议的机器学习工具）、Amazon CodeWhisperer（一款基于AI的编码助手）、Amazon Party Rock（一个互动式游乐场，用于快速原型设计及应用程序构建）、Amazon DevOps Guru（一项用于检测和推荐解决方案以解决操作问题和配置错误的服务）以及最新的Amazon Q（一个协助人类开发者的互动式对话助手）。

接下来，Adnan Bilwani上台进行现场演示，展示了亚马逊Q的一些功能。在这些功能中，他询问了关于构建允许用户上传PDF文件并提取数据以使其可搜索的应用程序的建议。亚马逊Q建议采用Amazon Textract进行文档数据提取，AmazonAmazon DynamoDB进行存储，以及使用亚马逊云科技Lambda无服务器函数处理API和应用逻辑的Amazon API Gateway。

在Visual Studio Code中，Adnan展示了亚马逊Q如何通过提供所使用的类、方法、整体功能和设计模式概述来解释代码片段的功能。这有助于开发人员快速熟悉陌生的代码库。

在Amazon CodeCatalyst中，Adnan指派给亚马逊Q的任务是实施一个从样本金融科技应用程序中按钱包ID检索交易的新Lambda函数。在分析项目代码库后，亚马逊Q在约20-25分钟内生成了包含新函数及其相应单元测试的拉取请求。

Adnan强调，亚马逊Q在软件开发生命周期的所有阶段都能提高开发者生产力。一个令人兴奋的即将推出的功能是智能代码转换，例如自动将Java 8代码转换为Java 17。

演讲的下一部分由FINRA的Guida Ramachandran主持，她分享了她的组织如何探索生成性AI的应用以提高开发者生产力。预期成果包括提高生产力、软件质量和可靠性以及组织灵活性。

Guida概述了在软件开发生命周期的每个阶段的一些潜在应用，如需求收集阶段，生成性模型可以帮助分析规格的一致性和完整性；对于设计师，模型可以协助生成设计作品和快速原型设计；对于开发者，模型可以生成样板代码和单元测试。一个团队正在使用Amazon CodeWhisperer将Java代码在不同版本之间进行转换。

在代码审查过程中，模型会关注质量问题和标准合规性。在测试阶段，模型能够生成集成测试、测试数据和测试计划。对于DevOps，模型能够分析生产错误和日志以确定问题的根源。

对于他们的研发项目，FINRA正在评估亚马逊云科技的服务，包括：

• Amazon CodeWhisperer，用于分析和优化编码过程。

• Amazon CodeGuru，用于自动化代码审查和质量检测。

• Amazon DevOps Guru，用于实时监控和故障诊断。

接下来，Guida深入了解Amazon CodeWhisperer的基础模型和定制工作流程的关键方面：

• 基础模型是在大量许可的开源代码数据集上预先训练的，这为其在特定领域的应用提供了一个良好的起点。

• 定制模型进一步结合了FINRA的内部代码库，以便更好地适应其特定的业务需求。FINRA为Custom Model提供了超过150万行的内部代码供其学习。

• 严格的安全措施确保了负责任的人工智能实践，包括在安全、隐私、公平和避免偏见方面的问题。

• 对定制模型的访问通过亚马逊云科技身份中心的集成进行管理，以确保强大的用户身份验证。

• 数据和模型保留在客户的亚马逊云科技环境中，以提高安全性。FINRA选择所有数据都不共享。

然后，Guida进行现场演示，展示CodeWhisperer在三个用例中的功能：

1. 自动生成用于调用Amazon[Amazon RDS](https://aws.amazon.com/rds/features/#Easy_to_manage?&trk=fcbfde70-6c6d-4967-931b-1a4a4990c211&sc_channel=el " RDS") API的亚马逊云科技SDK代码。

2. 自动生成FINRA的自定义证书管理SDK代码。

3. 生成针对指定方法的单元测试用例。

在所有三个示例中，CodeWhisperer生成的代码都适用于特定上下文，从而提高了开发人员的工作效率。Guida指出，该服务在编写单元测试时还能够找到合理的边缘用例来进行全面的测试。

Guida最后总结了FINRA的倡议目标、方法和下一步计划。他们计划在全面评估一系列模型、工具和使用案例的生产力影响之后，再考虑更广泛的采用。初步评估结果显示，编码任务的完成时间减少了50-70%。

总的来说，本次信息会议主要讨论了亚马逊云科技的服务，例如Amazon CodeWhisperer和Amazon Q，它们如何利用生成式人工智能技术来提高软件开发团队的生产力、满意度和创新速度。现实生活中的案例展示了在软件开发的整个生命周期中具有广泛应用前景。亚马逊云科技将继续致力于负责任地发展人工智能，并为开发者带来持续的改进。

下面是一些演讲现场的精彩瞬间：

开发者借助生成性AI提升了生产力，使他们能够专注于业务逻辑，而非记忆各种不同语言和库之间的细微差别。

亚马逊云科技提供了完整的基础设施、服务及开发者工具，以支持构建生成性AI应用。

建议开发者使用Amazon Textract从PDF中提取元数据，并将提取的数据存储在DynamoDB中。

同时，可以通过API Gateway和Lambda构建用于调用Textract的API，将PDF存储在S3中，并通过CloudWatch进行监控。

CodeGuru功能允许开发者在他们的IDE中选择代码并获得简洁明了的解释。

总结

该视频详细介绍了亚马逊云计算技术公司的新一代人工智能特性及工具，旨在助力开发者。内容涵盖了生成式人工智能如何提升开发者的工作效率与满意度。根据麦肯锡的一项研究，生成式人工智能可大幅提高软件开发效果。与传统针对特定任务的机器学习模型不同，新型基础模型（例如 CodeWhisperer）能够在多种场景中自适应应用。CodeWhisperer作为AI编程助手，能在集成开发环境中协助完成日常任务。此外，亚马逊Q作为一个交互式助手，可用于查询亚马逊云计算技术服务以及解读代码。Q还能在CodeCatalyst中生成代码变更。通过Party Rock功能，用户得以尝试生成式人工智能应用的实验性操作。视频中展示了如何在控制台、集成开发环境和数据处理流程中与Q进行互动。Finra部分则探讨了如何使用CodeWhisperer定制模型以适应特定领域并生成相关代码和测试用例。总之，亚马逊云计算技术致力于将生成式人工智能应用于整个软件开发生命周期，以提升创新力、一致性、高效性与开发者体验。

演讲原文

https://blog.csdn.net/just2gooo/article/details/135114842

想了解更多精彩完整内容吗？立即访问re:Invent 官网中文网站！

2023亚马逊云科技re:Invent全球大会 - 官方网站

点击此处，一键查看 re:Invent 2023 所有热门发布

即刻注册亚马逊云科技账户，开启云端之旅！

【免费】亚马逊云科技“100 余种核心云服务产品免费试用”

【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”

亚马逊云科技是谁？

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者，自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务，涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体，以及应用开发、部署与管理等方面；基础设施遍及 31 个地理区域的 99 个可用区，并计划新建 4 个区域和 12 个可用区。全球数百万客户，从初创公司、中小企业，到大型企业和政府机构都信赖亚马逊云科技，通过亚马逊云科技的服务强化其基础设施，提高敏捷性，降低成本，加快创新，提升竞争力，实现业务成长和成功。