如何从百模中智选生成式AI工具？（如何从百模中智选生成式ai工具）

当前，生成式 AI 应用的落地已经从原本激烈的“百模大战”阶段演进到少数优秀模型崭露头角的时刻。这一过程伴随着工具链的不断多元化，同时也伴随着企业领导者的认真探索，进而找到适合生成式 AI 的实际应用场景。他们提出了许多关键问题，包括对基础模型的适用性疑虑，对定制化适应特定领域需求的思考，以及如何在构建原生 AI 应用的同时创新 IT 架构。

此外，企业还需要明确如何准确度量引入生成式 AI 所带来的实际价值，以便为未来的决策提供有力支持。企业和领导者们正在积极寻求方式以最好地利用这一新兴技术的潜力。

基于这一背景，亚马逊云科技特地举办了亚马逊云科技生成式 AI 构建者大会，大会于10月24日下午圆满结束。在本次大会中，众行业大咖和技术专家们深度聚焦生成式 AI 前沿技术，就生成式 AI 的热点技术话题和热门应用场景展开了深入分享与交流，为开发者们解读了当下应如何应对生成式 AI 带来的机遇，在 AI 时代保持强有力的竞争力。

加速大数据与 AI 普惠

亚马逊云科技助力企业构建者释放生成式 AI 潜力

大会开场，亚马逊云科技大中华区产品部总经理陈晓建在以“赋能生成式 AI 新时代，助力数据与 AI 普惠化”为题的主题演讲中指出，生成式 AI 现已成为各行业各组织商业领导者的首要关注点。整个生成式 AI 的应用就像是浮在海面上的冰山，人们常提到的基础模型只是我们能看到的冰山一角，而在冰川底部，同样需要大量的基础模型以外的服务来支撑，如加速芯片、数据库、数据治理、应用集成等。

亚马逊云科技为用户提供完整的端到端的生成式 AI 技术堆栈。从底层的加速层如加速芯片、存储优化，到中间层模型构建工具和服务，再到最上层的生成式 AI 相关应用，每一层都在针对客户的不同需求持续创新。

作为云计算领域的领导者和创新者，生成式 AI 一直是亚马逊云科技关注和投入的主要方向。推动生成式 AI 普惠化，助力更多企业和个人开发者加速创新是亚马逊云科技的使命之一。

在实践中，亚马逊云科技注意到，生成式 AI 的典型应用场景给企业带来的业务价值主要体现在三个方面：增强客户体验，提升员工生产力与创造力，优化业务流程。基于此，亚马逊云科技助力企业和开发者从典型场景入手创新业务模式，快速构建高性价比的生成式 AI 应用，以打造差异化竞争优势，加速业务敏捷创新。

为让客户能够轻松、安全地按需选择基础模型，亚马逊云科技此前还推出了Amazon Bedrock 和 Amazon SageMaker JumpStart 两款服务。Amazon Bedrock 是企业使用基础模型构建和扩展生成式 AI 应用程序的最简单方法，它提供广泛的模型选择、数据隐私，并且能够自定义模型，无需管理任何基础设施。通过 Amazon Bedrock，用户可轻松地将组织数据用作战略资产，使用自定义基础模型并打造更加差异化的优势。此外，Amazon Bedrock 还充分考虑到了用户的安全性和隐私保护，帮助客户保护敏感数据。

相较于Amazon Bedrock，Amazon SageMaker Jumpstart 则提供了更灵活、更定制化的模型微调。用户可以从 SageMaker Jumpstart 中选择开源的基础模型，然后根据自身需求选择不同方式，进一步确定微调框架，利用分布式训练实现微调，从而更好地评估微调效果。

金山办公：Amazon Bedrock 助力 WPS

加速生成式 AI 应用的构建

在主题分享中，来自金山办公软件股份有限公司的 AI 研发总监刘强向大家分享了金山办公如何利用生成式 AI 和 Amazon Bedrock 帮助企业简化从统一数据到个性化客户体验的过程。

刘强提到，今年起，WPS 开始将大语言模型的能力全面引入产品，致力于开发新一代办公软件。而在构建生成式 AI 应用的过程中，基础模型性能有限，数据隐私与安全难以保障，高额管理成本等现实情况成为了摆在金山办公面前的重重障碍。作为 Amazon Bedrock 的第一批试用用户，金山办公第一时间与 Amazon Bedrock 展开了对接与测试。

Amazon Bedrock 中支持的领先大语言模型在多个文字处理场景中符合金山办公的需求。除多种模型选择外，Amazon Bedrock 还在数据安全层面给金山办公提供了充分的支持，极大地提高了金山办公的内部开发效率，助力金山办公进一步革新办公体验。

高性价比的基础设施是生成式 AI 应用构建的关键。在接下来的分享中，陈晓建提到，十多年来，亚马逊云科技一直与合作伙伴致力于投资自研芯片，以便为用户提供广泛的高性能、低成本的机器学习基础设施选项，助力客户加速实现生成式 AI 落地。

此外，亚马逊云科技近日还宣布了 Amazon EC2 Inf2 实例的正式上市。该实例由最新的亚马逊云科技设计的机器学习芯片 Inferentia2 提供支持。与其他类似的 EC2 实例相比，Inf2 实例在推理性价比上要高出 40%，Trn1 实例在训练成本上的节省更是高达 50%。基于此，亚马逊云科技为深度学习训练和推理提供了高性能且具有显著成本节省的实例。

在数据战略层面，从存储、查询和分析数据，到通过商业智能、机器学习和生成式 AI 使数据发挥作用，亚马逊云科技提供广泛的工具组支持整个端到端的数据流程。多年来，亚马逊云科技通过深化服务之间的集成，已经在 Zero ETL 中取得了一定成果，这些亚马逊云科技各项服务之间的深度的数据集成正在帮助企业执行分析和机器学习，且无需移动数据。

在数据爆炸的现状下，数据治理对于企业来说至关重要。Amazon DataZone 全新的数据治理服务可支持整个企业集团组织的数据发现、管理跨部门的访问和使用生命周期。通过统一的数据目录和明确的数据主权分工，企业内数据使用者能轻松地发现有效数据，同时数据的提供者可以严格的管理数据的可见和访问授权，做到仅允许正确的人访问到正确的数据。这一能力对于今天的企业需要负责任的构建生成式 AI，严苛的保护企业数据并正确的发挥企业私有数据的价值尤其重要。

西门子：以生成式 AI 之力重塑数据价值，推进业务创新

来自西门子集团 IT 数据分析与人工智能负责人李朝明在主题分享中向大家分享了西门子如何携手亚马逊云科技发挥企业数据价值，通过 AI 与数据能力的全面能力提升来构建基于生成式 AI 的企业知识聊天机器人。

他提出，当前生成式 AI 的发展给各行各业带来了革命性的变化。在西门子推动生成式 AI 落地的过程中，西门子 IT DA 团队与亚马逊云科技有着长期而深入的合作。面对西门子中国 IT 面对的企业内部信息分散、数据信息传递能力不足、知识运营能力缺乏等业务难题，亚马逊云科技携手打造了西门子中国业务知识一体化解决方案“小禹”，大大提高了西门子内部团队的生产力和创新效率。

生成式AI 的出现，给传统云原生应用开发架构提出了新的机遇与挑战，借助云原生的服务，聚焦以微服务化，事件驱动架构为核心的设计框架 Serverless 优先，以数据洞察为核心，安全与数据的合规与保护、借助 DevOps 等现代应用治理理念构建高效敏捷的构建者文化等，加速由云原生到 AI 原生应用的构建与创新。

亚马逊云科技预见到，编程将是生成式 AI 技术得到快速应用的领域之一。亚马逊云科技提供的 Amazon CodeWhisperer是一款人工智能编码伙伴，可在基础模型高级选项中使用，实时生成代码建议，从根本上提高开发人员的生产力。《2023 AI 开发者生态报告》还指出，当前，Amazon CodeWhisperer 在国内 AI 编程工具领域处于领先地位，且是国内用户增速最快的 AI 编程工具。

科思创中国：借助 Amazon CodeWhisperer 实现开发效率显著提升

来自科思创中国云开发运维团队负责人俞宙在主题分享中向大家分享了他们如何基于 Amazon CodeWhisperer 提升代码开发效率，加速生成式 AI 应用程序构建。

科思创中国在日常开发中有两个核心任务：项目框架搭建和存量代码优化。而在实践中过程中，重复性、机械化的范式生成、惯用算法引用和企业级 API 接口定制是科思创中国面临的主要挑战。在 Amazon CodeWhisperer 的加持下，科思创中国的日常代码开发效率和开源代码应用追踪器的准确性显著提高，在构建云原生产品应用的过程中起到了重要作用。

在接下来的分享中，陈晓建还特别提到，一直以来，亚马逊云科技在不断帮助中国开发者群体快速创新。今年以来，亚马逊云科技为初创公司推出了亚马逊云科技创业加速器。今年9月，亚马逊云科技联合了北京市教育委员会指导，北京科学教育发展基金会、清华大学人工智能研究院基础模型研究中心，以及面壁智能、智谱 AI、百川智能等客户及合作伙伴，共同发布了“首届中国生成式 AI 创新应用挑战赛”。如今，开发者的努力和激情正在改变这个世界，不断地拓展着技术的边界，亚马逊云科技将持续为构建者赋能，继续携手合作伙伴与初创圈，扩大生成式 AI 的“朋友圈”，进一步助力生成式 AI 的广泛落地。

高峰论坛共话实战经验

行业大咖共看生成式 AI 当下与未来

在以“共话生成式 AI 的现在和未来”为题的圆桌讨论环节，Lepton AI CEO 贾扬清、百川智能联合创始人 COO 茹立云、爱诗科技 CEO 王长虎、亚马逊云科技大中华区产品部总经理陈晓建、亚马逊云科技大中华区初创生态及投资业务发展总监胡瑛围绕开发者在生成式 AI 应用落地新阶段所面临的机遇和挑战展开了深度讨论。

在交流与分享中，行业大咖们就怎样选择基础模型，如何构建生成式 AI 时代的数据策略，如何借助云原生加速构建 AI Native 应用和加速生成式 AI 应用构建与落地有哪些开发工具，给广大开发者们提出了宝贵建议。

分论坛解读生成式 AI 应用秘籍

亚马逊云科技助力打造生成式 AI 应用最佳实践

开发生成式 AI 应用是一个充满挑战的系统工程，并不是单纯的产品和服务拼接，因此，如何加速客户最终应用的商业化落地，除了本身的资源以外，亚马逊云科技同样需要构建强大的合作伙伴“朋友圈”，携手助力解决生成式 AI 应用构建中的各种技术问题，加速应用落地。

针对构建生成式 AI 应用端到端的关键路径，为了更加详细的阐述亚马逊云科技如何助力构建者释放生成式 AI 潜力的方法论，分论坛分别围绕 “基础模型优先”-重构生成式 AI 时代的应用基座”，打造生成式 AI 时代的数据战略，基于云原生服务快速 AI 原生的应用等热点话题，邀请来自亚马逊云科技的技术专家，携手客户和合作伙伴代表，做了丰富而全面的分享，从理论到实践给构建者快速，安全，高效的开发生成式 AI 应以启迪。

在“开发者论坛”中，亚马逊云科技邀请到了知名的业界专家为大家讲解和分享。一起看看他们有哪些经验和心得！

开发者论坛-助力开发者在生成式 AI 时代创新构建

在 1024 这个开发者专属的节日，大会还设置了开发者论坛，邀请业内开发者大咖及专家分享生成式 AI 最新的开发技术，工具及落地实践。开源 AI 算法工程师、bilibili 知名科技 UP 主张子豪 （@同济子豪兄）为大家带来了《个人开发者玩转生成式 AI 的 N 种方法》。亚马逊云科技资深开发者布道师郑宇彬分享了生成式 AI 面向开发者的关键技术——Amazon CodeWhisperer。

亚马逊云科技资深开发者布道师黄浩文分享了高效开发基于大模型的生成式 AI 应用实践。Zilliz 合伙人和技术总监，LF AI &Data 基金会技术咨询委员栾小凡介绍了 AIGC 时代的新基建——向量数据库及其应用场景。ApeCloud 联合创始人 & CTO蔡松露分享了如何在 K8S 上玩转⽣成式 AI。NebulaGraph 首席开发者布道师古思为向大家详细地介绍了基于图的知识结构在 RAG 领域突破更多挑战。

动手训练营—生成式AI时代开发的速度与激情

我们同步为开发者准备了动手实验的环节，包括Amazon DeepRacer强化学习及自动驾驶模型实战，实时AI编程助手Amazon CodeWhisperper实战，Amazon Bedrock初体验，基于大预言模型构建智能对话机器人。

亚马逊云科技提供了完整的端到端的生成式 AI 技术堆栈，从底层的加速芯片，存储优化，到中间层模型构建工具和服务，再到最上层的生成式 AI 相关应用。推动生成式 AI 普惠化，助力更多企业和个人开发者加速创新是亚马逊云科技的使命之一。亚马逊云科技愿一直与企业构建者和个人开发者们携手共进，引领人工智能的未来。