尊时凯时

handlogo
中国图标
灵炼训练引擎正式支持NVIDIA NeMo,,,,,,企业级模型训练再升级!

尊时凯时企业级大模型训练与治理平台(中文名灵炼,,,,,,英文名H-AI TrainHub,,,,,,以下简称灵炼),,,,,,旨在提供企业级一站式模型训练与治理平台,,,,,,覆盖数据集治理、精调、推理部署与评测等端到端能力,,,,,,专一机能与安全保险,,,,,,全面支持企业AI模型开发与落地 。。。。。


本文将带你急剧把握使用NVIDIA NeMo AutoModel引擎做微调全流程:从模型训练到模型颁布,,,,,,再到后续部署与利用,,,,,,援手你高效构建企业级专属AI能力 。。。。。

尊时凯时灵炼

训练再升级!灵炼微调引擎正式接入NVIDIA NeMo AutoModel,,,,,,让大模型微调更快、更省、更单一 。。。。。

? 极速训练:基于NVIDIA NeMo高机能训练内核与散布式并行技术,,,,,,大幅提升训练吞吐,,,,,,在一样算力下实现更多工作 。。。。。

? 开箱即用:原生兼容HuggingFace模型生态,,,,,,无需模型转换、无需额表适配,,,,,,新模型颁布即可急剧接入 。。。。。

? 场景覆盖:支持持续预训练、SFT精调及 LoRA微调,,,,,,兼容Alpaca、ShareGPT、OpenAI Role等主流数据体式,,,,,,满足领域知识注入与指令对齐需要 。。。。。

? 弹性扩大:统一套训练配置即可从单卡滑润扩大至千卡集群,,,,,,无需沉构代码,,,,,,轻松适配分歧规模算力环境 。。。。。

? 生态贯通:模型维持原生HuggingFace体式,,,,,,支持权沉自动归并与一键颁布,,,,,,实现从训练、微调到部署上线的齐全关环 。。。。。

急剧入门

新建模型微调-使用NVIDIA NeMo AutoModel引擎


模型训练/模型微调:新建微调工作 。。。。。

首先配置根基信息&模型及数据 。。。。。

微调类型:按需选择微调类型 。。。。。

○ 持续预训练:强化领域知识理解

○ SFT精调:提升指令遵循与理解能力

基础模型:选择指标模型及版本 。。。。。

数据体式:选择对应数据结构 。。。。。

训练集起源:矫捷适配分歧数据规模与业务需要 。。。。。

○ 平台数据集(推荐)

○ 本地存储蹊径(合用于大规模数据)

○ 手工上传(≤30MB)

其次设置算力,,,,,,微调有关配置,,,,,,并点击【确认】实现创建 。。。。。

算力集群:选择执行节点 。。。。。

调度方式:通过手工调度,,,,,,精密化节造资源,,,,,,NVIDIA NeMo AutoModel引擎暂不支持自动调度 。。。。。

训练引擎:选择NeMo/26.04 。。。。。

微调步骤:LoRA/全参微调 。。。。。

参数配置:平台预置默认参数配置,,,,,,同时支持进建率、Epoch、序列长度、优化器、缩放比例等关键参数自界说,,,,,,以及散布式战术等高级参数调优能力 。。。。。

起头训练

创建工作后,,,,,,点击【起头训练】,,,,,,即可启动使用NVIDIA NeMo AutoModel引擎执行模型微调流程 。。。。。平台将自动实现资源调度、训练执杏注状态治理等,,,,,,全流程自动化,,,,,,降低操作复杂度 。。。。。

查看训练操作纪录

操作纪录齐全纪录微调过程中的各阶段信息,,,,,,实现全过程可观测与问题急剧定位 。。。。。新增数据集预处置阶段,,,,,,适配NVIDIA NeMo AutoModel引擎执行持续预训练前置处置数据集需要 。。。。。

评估汇报

训练实现后自动天生评估汇报,,,,,,支持查看Loss曲线变动,,,,,,用数据驱动模型优化决策 。。。。。

颁布模型

微调实现后,,,,,,可将模型颁布至模型仓库,,,,,,支持后续部署与复用,,,,,,构建企业级模型资产系统 。。。。。点击【颁布】,,,,,,实现以下配置:

Checkpoint选择:维持默认或指定训练了局 。。。。。默认将使用NVIDIA NeMo AutoModel引擎微调后最优的Checkpoint 。。。。。

是否自动归并:

○ 归并基础模型天生齐全模型

○ 或仅颁布 LoRA Adapter

颁布方式:

○ 新版本:基于已有模型迭代

○ 新模型:创建全新模型资产

查看颁布操作纪录

颁布过程中,,,,,,也可通过操作纪录查看:颁布状态、执行日志、归并进度等,,,,,,全流程通明可控 。。。。。

查看颁布了局

颁布实现后,,,,,,可在模型仓库查看,,,,,,实现模型资产沉淀与复用:

新版本:在原模型下查看新增版本 。。。。。

新模型:在模型列表中查看 。。。。。


以上内容重要解说了若何通过灵炼使用NVIDIA NeMo AutoModel引擎进行模型微调、过程监控、成效评估、模型颁布的有关能力,,,,,,打造齐全的模型训练与利用关环 。。。。。


更多职能细节可参阅焱牛??????J⒖教ǎ╫pen.hand-china.com)文档,,,,,,或随时联系研发团队 。。。。。将来我们将持续迭代,,,,,,为您带来更多AI模型开发与落地履历,,,,,,等待与您互换!


欢迎在评论区留言,,,,,,一路探求AI模型开发在您业务中的利用潜力~

携手尊时凯时,,,,,,共铸硬核竞争力!



热点

尊时凯时 x SKG|主数据治理项目启动,,,,,,为AI领航铺路,,,,,,为高效运营筑基!

尊时凯时产品出海|HiFins尊时凯时智慧财政套件援手香港综合能源服务客户,,,,,,构建全球化财政运营统一电子管帐档案!

尊时凯时 x 京新药业|共建企业级 AI 智能体平台,,,,,,共拓医药行业智能化升级!

  • 交谊链接
  • 汇联易
  • SRM
  • 1m筑造
  • 甄一
  • 鼎医信息
  • 甄零一诺
? Copyright Hand China Co.,Ltd. All Rights Reserved 尊时凯时
  • 登记 沪ICP备14039535号-1
  • 登记图标 沪公网安备 31011802002577号

业务征询

美满信息后我们会第一功夫跟您联系
*
*
*
*
*请输入正确的验证码
captcha
*
*
发送失败
立即征询
尊时凯时·(中国区)人生就是搏!征询热线
尊时凯时·(中国区)人生就是搏!业务征询
微信扫码 在线征询 微信征询二维码
联系尊时凯时
400-168-4263
业务征询
美满信息后我们会第一功夫跟您联系
【网站地图】【sitemap】