编者注：本文属于《解码 AI》系列栏目，该系列的目的是让技术更加简单易懂，从而解密 AI，同时向 RTX PC 用户展示全新硬件、软件、工具和加速特性。
凭借其快速理解、总结和生成基于文本的内容的能力，大语言模型 (LLM) 正在推动 AI 领域中的一些极为激动人心的发展。
LLM 的这些能力可支持各种场景，包括生产力工具、数字助理、电子游戏中的 NPC 等。但它们并非万能的解决方案，开发者通常必须对 LLM 进行微调，使 LLM 适应他们应用的需求。
NVIDIA RTX AI Toolkit 可通过一种名为“低秩自适应 (LoRA)”的技术，让用户轻松地在 RTX AI PC 和工作站上微调和部署 AI 模型。现已推出的最新版支持在 NVIDIA TensorRT-LLM AI 加速库中同时使用多个 LoRA，最高可将微调模型的性能提升至原来的 6 倍。
通过微调提升性能
LLM 必须经过精心定制，才能实现更高的性能并满足用户日益增长的需求。
虽然这些基础模型是基于海量数据训练出来的，但它们通常缺乏开发者的特定场景所需的上下文。例如，通用型 LLM 可以生成游戏对话，但很可能会忽略文风的细微差别和微妙之处。例如，以一位有着黑暗过往并蔑视权威的林地精灵的口吻编写对话时，LLM 很有可能会忽略需要展现出来的微妙文风。
为了获得更符合自己需求的输出，开发者可以使用与应用场景相关的信息对模型进行微调。
以开发一款利用 LLM 生成游戏内对话的应用为例。微调时，首先需要使用预训练模型的权重，例如角色可能会在游戏中说出的内容的相关信息。为使对话符合相应文风，开发者可以基于较小的示例数据集 (例如以更诡异或更邪恶的语气编写的对话) 调整模型。
在某些情况下，开发者可能希望同时运行所有不同的微调流程。例如，他们可能希望为不同的内容频道生成以不同的语气编写的营销文案。同时，他们可能还希望总结文档并提出文风方面的建议，以及为文生图工具起草电子游戏场景描述和图像提示词。
同时运行多个模型并不现实，因为 GPU 显存无法同时容纳所有模型。即使能同时容纳，模型的推理时间也会受制于显存带宽 (即 GPU 从显存读取数据的速度)。
拥抱 LoRA 技术
解决上述问题的常用方法是使用低秩自适应 (LoRA) 等微调技术。简单来说，您可以将这种技术视为补丁文件，其中包含微调流程中的定制过程。
训练完毕后，定制的 LoRA 可以在推理过程中与基础模型无缝集成，额外的性能开销极少。开发者可以将多个 LoRA 连接到单个模型上，以服务多种场景。这样既能使显存占用率保持在较低水平，又能为各个特定场景提供所需的额外细节内容。
在实际操作中，这意味着应用可以在显存中只保留一个基础模型，同时使用多个 LoRA 实现多种定制。
这个过程称为多 LoRA 服务。当对模型进行多次调用时，GPU 可以并行处理所有调用，更大限度地利用其 Tensor Core 并尽可能减少对显存和带宽的需求，以便开发者在工作流中高效使用 AI 模型。使用多 LoRA 的微调模型的性能最高可提升至原来的 6 倍。
在 GeForce RTX 4090 台式电脑 GPU 上运行 Llama 3B int4 时，应用 LoRA 的 LLM 的推理性能。输入序列长度为 1,000 个 token，输出序列长度为 100 个 token。LoRA 最大秩为 64。
在前文所述的游戏内对话应用的示例中，通过使用多 LoRA 服务，应用的范围可以扩展到同时生成剧情元素和插图，两者都是由单个提示驱动的。
用户可以输入基本的剧情创意，然后 LLM 会充实这个概念，在基本创意的基础上进行扩展，提供详细的基础剧情。然后，应用可以使用相同的模型，并通过两个不同的 LoRA 进行增强，以完善剧情并生成相应的图像。其中一个 LoRA 负责生成 Stable Diffusion 提示词，以便使用本地部署的 Stable Diffusion XL 模型创建视觉效果。同时，另一个针对剧情写作进行微调的 LoRA 可以编写出结构合理、引人入胜的叙事内容。
在这种情况下，两次推理均使用相同的模型，这可确保推理过程所需的空间不会显著增加。第二次推理涉及文本和图像生成，采用批量推理的方式执行。这使得整个过程能够在 NVIDIA GPU 上异常快速且高效地推进。这样一来，用户便能快速迭代不同版本的剧情，轻松完善叙事和插图。
最近的一篇技术博客对上述过程进行了更详细的描述。
LLM 正在成为现代 AI 的一大重要组成部分。随着采用率和集成率的提升，对于功能强大、速度快、具有特定于应用的定制功能的 LLM 的需求也将与日俱增。RTX AI Toolkit 新增的多 LoRA 支持可为开发者提供强有力的全新方法来加速满足上述需求。