阿里云文档 2025-12-23

微调、部署并实现Llama-3模型的高效推理

Meta已开源Llama-3,推出了8B和70B两种参数量的大语言模型。阿里云PAI灵骏智算服务是面向大规模深度学习场景的智算产品,提供一站式的异构计算资源和AI工程化平台。本方案将为您介绍如何使用阿里云PAI灵骏智算服务,以及基于Meta-Llama-3-8B的开源模型和Megatron的训练流程,进行模型微调、离线推理验证,并实现在线服务部署。

阿里云文档 2025-04-11

AI开源项目有哪些

阿里云的AI及大数据开源项目包括用于全自动分布式深度学习系统的TePDist和NLP开发与应用工具包EasyNLP,您可以根据需要选择合适的项目。

文章 2024-08-13 来自:开发者社区

【机器学习】Google开源大模型Gemma2:原理、微调训练及推理部署实战

一、引言 Gemma 是 Google 推出的轻量级、先进的开放模型系列,采用与 Gemini 模型相同的研究成果和技术构建而成。它们是仅使用解码器的文本到文本大型语言模型(提供英语版本),为预训练变体和指令调整变体具有开放权重。Gemma 模型非常适合各种文本生成任务,包括问题解答、摘要和推理。由于它们相对较小,因此可以将其部署在资源有限的环境(如笔记本电脑、桌面设备或您自己的云基础架...

【机器学习】Google开源大模型Gemma2:原理、微调训练及推理部署实战
文章 2024-08-13 来自:开发者社区

【机器学习】Whisper:开源语音转文本(speech-to-text)大模型实战

一、引言 上一篇对ChatTTS文本转语音模型原理和实战进行了讲解,第6次拿到了热榜第一。今天,分享其对称功能(语音转文本)模型:Whisper。Whisper由OpenAI研发并开源,参数量最小39M,最大1550M,支持包含中文在内的多种语言。由于其低资源成本、优质的生存效果,被广泛应用于音乐识别、私信聊天、同声传译、人机交互等各种语音转文本场景,且商业化后价格不菲。今天免费分享给大...

【机器学习】Whisper:开源语音转文本(speech-to-text)大模型实战
文章 2024-08-13 来自:开发者社区

【机器学习】ChatTTS:开源文本转语音(text-to-speech)大模型天花板

一、引言 我很愿意推荐一些小而美、高实用模型,比如之前写的YOLOv10霸榜百度词条,很多人搜索,仅需100M就可以完成毫秒级图像识别与目标检测,相关的专栏也是CSDN付费专栏中排行最靠前的。今天介绍有一个小而美、高实用性的模型:ChatTTS。 二、TTS(text-to-speech)模型原理 2.1 VITS 模型架构 由于ChatTTS还没有公布论文,我们...

【机器学习】ChatTTS:开源文本转语音(text-to-speech)大模型天花板
文章 2022-06-13 来自:开发者社区

阿里云机器学习PAI开源中文NLP算法框架EasyNLP,助力NLP大模型落地

作者:临在、岑鸣、熊兮一 导读随着 BERT、Megatron、GPT-3 等预训练模型在NLP领域取得瞩目的成果,越来越多团队投身到超大规模训练中,这使得训练模型的规模从亿级别发展到了千亿甚至万亿的规模。然而,这类超大规模的模型运用于实际场景中仍然有一些挑战。首先,模型参数量过大使得训练和推理速度过慢且部署成本极高;其次在很多实际场景中数据量不足的问题仍然制约着大模型在小样本场景中的应用,提高....

阿里云机器学习PAI开源中文NLP算法框架EasyNLP,助力NLP大模型落地

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注