1. prompt/input：提供输入文本，用于引导模型生成内容。不同的 API 会使用不同的术语，如 prompt 或 input。

2. temperature：控制生成内容的随机性。值越高（如 1.0），生成的内容越多样化；值越低（如 0.1），生成的内容更确定和一致，适合需要精确回答的场景。

3. max_tokens：限制输出的最大 token 数。token 是一个处理单位（包括单词和符号），控制此值可以限制输出内容的长度，以免生成过长或过短的文本。

4. top_p (nucleus sampling)：控制生成的内容中选择概率最高的 token 集合。常用值为 0.9，表示仅在概率累计达到 90% 时停止选择。结合 temperature 使用，top_p 可以影响生成内容的多样性和稳定性。

5. frequency_penalty：用于降低重复内容的生成概率，负值表示增加相似内容的生成。此参数帮助生成更丰富的内容，避免过度重复。

6. presence_penalty：减少生成已经出现在上下文中的内容的概率，负值则相反。适用于希望引入更多新内容而非重复的场景。

7. stop：设定一个或多个终止字符串，当生成内容匹配到这些字符串时停止输出。此参数适用于希望在特定文本后停止生成的场景，例如在回答问题后自动停止。

8. logprobs：返回生成内容每个 token 的概率分布（logits），适用于分析模型生成的可信度和倾向性。

9. stream：启用流式响应，以便分段返回生成内容，提升响应速度。这对需要即时反馈的应用场景很有帮助。

10. user：标识用户或会话的信息，通常用于监控 API 使用情况和个性化推荐。

11. model：指定要使用的特定模型版本或架构（如 GPT-4、Claude、Llama 等），不同模型会有不同的性能、成本和响应时间。

12. echo：选择是否回显输入 prompt，方便在生成内容中包含 prompt 以便上下文连续。

1. 微调方式

• Fine-tuning：传统的微调方法会更新模型的所有参数。通过对模型的全部权重进行调整，模型在特定任务上表现出更好的适应性。这种方法需要在每一层都进行权重更新，因此对计算资源要求较高。

• LoRA：LoRA 是一种参数高效微调方法，它通过在某些权重矩阵（如注意力层）上添加低秩矩阵来进行微调，而不是直接调整原模型的权重。训练过程中，只有低秩矩阵的参数会更新，而原始模型参数保持不变。这样可以显著减少需要更新的参数数量，从而降低微调的计算和存储成本。

2. 计算和存储需求

• Fine-tuning：需要对整个模型进行更新，因此需要大量的 GPU/TPU 内存和计算资源。对于具有数十亿参数的模型，微调成本较高。

• LoRA：只需更新少量的参数（低秩矩阵），不需要在整个模型上进行全面更新。这意味着 LoRA 能够在更低的内存和存储消耗下完成训练，特别适合在资源有限的情况下进行微调。

3. 模型效果

• Fine-tuning：因为更新了全部参数，模型能够高度适配特定任务，通常表现出优异的效果，适合对于性能要求极高的任务。

• LoRA：尽管 LoRA 不更新所有参数，但在许多任务上，尤其是迁移学习和领域适应任务中，LoRA 可以达到接近 Fine-tuning 的效果。由于不修改原始参数，LoRA 更加稳定，且可以在不同任务间快速切换。

4. 可扩展性和灵活性

• Fine-tuning：由于微调后所有参数均被调整，适用于特定任务，但可能难以在多个任务之间复用。要适应新任务通常需要重新微调。

• LoRA：通过使用低秩矩阵，LoRA 可以更灵活地在不同任务之间切换。例如，可以为每个任务分别存储低秩矩阵，在推理时加载相应的矩阵，而无需更改主模型。这种方法在多任务场景中尤为方便。

5. 适用场景

• Fine-tuning：适用于数据丰富、任务明确的场景，且对资源和性能要求较高的情况，例如产品级别的自然语言处理应用。

• LoRA：更适合资源受限的场景，或者希望在原有模型基础上快速适配多个任务的情况。LoRA 适用于快速实验和低资源环境下的迁移学习。

总结