文章目录
✨活动上新
【活动邀请·上海】re:Invent reCap 全国巡演上海场:云端新春-引领技术新浪潮 |GenAI 斜杠计划第三期
2025 全球开发者先锋大会将于2月21日至23日在上海徐汇西岸和漕河泾举行,本次大会以“模塑全球 无限可能”为主题,汇聚全球开发者,共探大模型产业化解决方案与创新应用。
作为大会的重要分会场,我们特别策划了 2025 年首场线下技术分享会,聚焦亚马逊云科技 re:Invent 2024 的关键技术发布,并结合 DeepSeek 模型的智能能力,深入解读亚马逊云最新技术的核心价值与落地应用。现场将有亚马逊云技术专家带来前沿解析与案例分享,帮助开发者掌握新技术、提升项目创新力。
欢迎加入本次分享会,与业内专家深度交流,共同探索亚马逊云与大模型的无限可能!
实验介绍
本实验中,我们将带你深入探索 2024 亚马逊云科技 re:Invent 上发布更新的明星生成式 AI 产品——Amazon Bedrock和 Nova 家族系列大模型的强大功能。你将亲身体验如何运用这些前沿技术,轻松构建并优化客户之声(Voice of Customers)解决方案。让我们一起开启多模态沉浸式体验,掌握 Prompt Engineering 的艺术,一键完成多维标签 Embedding,利用 RAG 技术提升 VoC 分类效率,定制你的客户之声分析报告并最终构建智能客户之声回复助手。
实验概要
- Amazon Bedrock Nova 新模型新体验,多模态沉浸式体验
- 利用 Prompt Engineering 完成客户之声(VoC)分类
- 多维标签一键完成 Embedding
- Amazon Bedrock RAG 技术赋能 VoC 分类
- 定制化客户之声(VoC)分析报告
Amazon Bedrock Nova 初体验
!!!区域确认!!!
注意:本实验将在弗吉尼亚北部(us-east-1)区域体验,请检查确认所选择区域是否为 us-east-1.
Amazon Nova简介
Amazon Nova 是亚马逊云科技推出的新一代基础模型(Foundation Models),它们代表了前沿的智能技术,并提供了行业领先的性价比。Nova 系列包括多个模型,覆盖了文本、图像和视频生成等多个领域。具体来说,Amazon Nova 系列包含六个模型,其中四个专注于文本处理,分别是 Micro、Lite、Pro 和 Premier,另外两个则是面向创意内容生成的 Canvas 和 Reel 模型。
- Amazon Nova Micro:这是一个纯文本模型,以超低延迟为特点,能够快速完成文本总结、翻译等基础任务。
- Amazon Nova Lite:扩展了功能,不仅能处理文本,还可以理解图像和视频输入,适合进行文档分析和客户互动等场景。
- Amazon Nova Pro:在多模态处理能力的基础上,实现了“精确度、速度和成本的最佳平衡”,被定义为“全能选手”。
- Amazon Nova Premier:Nova 系列的旗舰版本,计划于 2025 年初推出,将专注于处理复杂推理任务,并能够作为“教师模型”来训练定制化模型。
- Amazon Nova Canvas 和 Amazon Nova Reel:这两个模型分别用于生成高质量的图像和视频内容。
Amazon Nova 系列模型与 Amazon 基础设施的无缝集成是其一大特点,通过 Amazon Bedrock 平台,企业可以直接对这些模型进行微调和知识蒸馏,使其更好地适应特定的业务需求。此外,Nova 系列在检索增强生成方面表现出色,能够基于组织的特定数据来提升输出的可靠性。
利用 Amazon Nova Pro 解释客户之声
在文生文功能中,可以测试 Amazon Nova 生成不同风格和主题的文本内容。通过精心设计的提示词,模型展现出卓越的语言理解和生成能力,例如:
利用 Amazon Nova Canvas 为客户之声解决方案生成 logo
文生图是 Amazon Nova 的一大亮点,这项技术通过结合先进的机器学习算法和深度神经网络模型,将非结构化的客户反馈转化为视觉上吸引人的图像。
根据以下提示词生成图片。注意: AI 生成具有随机性,不一定每次生成结果都一致。
Voice of the Customer (VOC) is a systematic method for collecting, analyzing and understanding customer feedback, opinions and expectations. Generate a logo for the Voice of the Customer system.
Amazon Nova Pro 图像分析
图像和视频分析是 Amazon Bedrock 平台中模型的核心技术之一,它们不仅用于生成高质量的静态图像和动态视频,还在理解和优化这些内容方面发挥着关键作用。
访问 Bedrock,选择 Chat/Text,选择 Amazon Nova Pro 模型
注意:不支持文档名称为中文格式,请修改为数字或字母。
基于Amazon Bedrock Nova 模型进行客户之声分类
进入 Code Server 云上开发环境
- 在控制台左上方“服务”中选择并进入”EC2″ – 并选择左侧”实例”,将目前处于”已停止“的实例“启动”,等待启动完成。
- 点击该实例,选择公有 IPv4 DNS,点击打开地址,即打开 Visual Studio Code Server。
注意:请在访问地址时使用
8090
端口,并采用http
协议,即 [http://ec2-xxxxxx.compute-1.amazonaws.com:8090] ,而非https
。
- 在对话框中,输入密码:123456,然后选择提交。
现在应该可以看到项目工程文件,如下所示。
激活虚拟环境
- 进入 vscode 后,打开 Terminal。
- 输入以下命令,激活虚拟环境。
使用 Prompt Engineering 对 VoC 进行分类
lab1.py 使用 Amazon Bedrock 和 LangChain 开发的客户反馈分类系统。主要流程包括:首先列出可用的 Bedrock 模型,然后创建一个自定义的 ChatModelNova 类来与 Amazon Nova 模型交互;接着使用预定义的系统提示和用户提示,通过 LangChain 构建一个分类链,将用户评论按照预设的类别标签进行自动分类;最后计算分类准确率,并将结果保存到 result_lab_1.csv 文件中。整个过程展示了如何利用大语言模型进行自动化的文本分类任务。
- 在激活虚拟环境后,在 Terminal 中执行命令 python lab1.py,输出绿色的迭代训练过程、 accuracy 和文件 result_lab_1.csv,表示执行成功。
为多个类别标签创建 Embedding
lab2.py 是基于 Amazon Bedrock 的文本语义分类项目,通过使用 Titan Text Embeddings V2 嵌入模型,将客户评论和预定义类别转换为向量,然后利用余弦相似度计算技术,自动将评论分类到最符合的分类中。文件内容包括了模型探索、文本嵌入生成,还包括相似度分析和分类准确率计算,最终将分类结果保存到 result_lab_2.csv 文件中。
- 在激活虚拟环境后,在 Terminal 中执行命令 python lab2.py,输出绿色的 accuracy 和文件result_lab_2.csv,表示执行成功。
使用 RAG 对 VoC 进行分类
lab3.py 使用 Amazon Bedrock 和 LangChain 构建的客户反馈分类系统。首先使用 Amazon Titan 嵌入模型将文本嵌入向量空间,然后通过 Chroma 向量数据库存储示例数据。系统利用自定义的 ChatModelNova(基于 Amazon Bedrock Nova 模型)创建一个机器学习管道,通过相似性检索相关示例,并使用精心设计的提示模板对客户评论进行自动分类。最后,代码计算分类的准确率,并将结果保存到 result_lab_3.csv 文件中,展示了一个端到端的文本分类解决方案,集成了嵌入、相似性搜索和大语言模型推理技术。
- 在激活虚拟环境后,在 Terminal 中执行命令 python lab3.py,输出 correct、 accuracy 和文件 result_lab_3.csv,表示执行成功。
生成分析报告
lab4.py 用 Python 编写的复杂脚本,主要包含以下几个部分:首先定义了一个 ChatModelNova 类,它是一个基于 Amazon Bedrock 服务的自定义聊天模型,支持同步和异步消息生成;然后使用这个模型进行法语翻译;接着读取了 result_lab_3.csv 文件的数据并进行数据处理;最后使用 LangChain 构建了一个高级提示词模板,通过流式输出生成一个针对数据的分析报告,整个过程涉及数据分析、机器学习模型调用和自然语言报告生成。
- 在激活虚拟环境后,在 Terminal 中执行命令 python lab4.py,输出绿色的 markdown 文本,表示执行成功。
- 资源清理
实验总结
通过这些实验,不仅对 Amazon Bedrock 上的通过统一的方式提供来自顶尖人工智能公司和亚马逊的高性能基础模型(Foundation Models, FMs) 有了初步的了解,而且体验了其与传统 AI 截然不同的自然语言交互方式。Amazon Bedrock 的强大之处在于它支持创建多样化的环境,如开发、测试和生产环境,这为团队在不同阶段的迭代和部署提供了极大的便利。此外,Amazon Bedrock 提供了一系列广泛的功能,以建置具有安全性、隐私性和负责任的生成式 AI 应用程序。通过这些实验,你已经能够利用 Amazon Bedrock 的无服务器体验,快速开始使用、使用自己的数据私人定制基础模型,并使用熟悉的 Amazon 工具轻松安全地将它们整合并部署到你的应用程序中。
实验链接
洞察客户 —— 用 Amazon Bedrock 与 Nova 大模型构建客户之声解决方案