文章归档

AIGC提示工程学习站 Learn Prompt

ChatGPT/Midjourney/Runway

提示工程指南

OpenBuprompt-engineering-note

提示工程笔记(课程总结)》介绍了面向开发者的 ChatGPT Prompt Engineering Learning Notes 课程，该课程提供了语言模型的工作原理和提示工程实践，并展示了如何将语言模型 API 应用于各种任务的应用程序中。课程包括总结、推断、转...

新的LLM训练方法 Federate

杜克大学和微软一起发布了一个新的LLM训练方法 Federated GPT，这个训练方法是将原本中心化的训练方法分散到不同的边缘设备里面（edge device），然后训练完成后，再上传到中心去将各子模型合并。

用混合精度加速大型语言模型

通过使用低精度浮点数运算，可以将训练和推断速度提升多达3倍，同时不影响模型准确性

PyLLMs

简洁的 Python 库，用于连接各种 LLM(OpenAI、Anthropic、Google、AI21、Cohere、Aleph Alpha、HuggingfaceHub)，内置模型性能基准。非常适合快速原型设计和评估不同模型，具有以下特点：通过少量代码连接顶级...

大语言模型（LLM）微调技术笔记

LLM Accelerator

让基础大模型更聪明的LLM Accelerator来了！基础大模型正在诸多应用中发挥着日益重要的作用。大多数大语言模型的训练都是采取自回归的方式进行生成，虽然自回归模型生成的文本质量有所保证，但却导致了高昂的推理成本和长时间的延迟。由于大模型的参数量巨大、推理成本...

Alpaca-LoRA

用LoRA在消费级硬件上复现斯坦福Alpaca的结果

Chinese-Vicuna

一个中文低资源的llama+lora方案