POST /api/createfiles 字段中使用与每个 Blob 关联的文件名和 SHA256 摘要。model: 要创建的模型的名称from: (可选) 要从中创建新模型的现有模型的名称files: (可选) 文件名到 Blob 的 SHA256 摘要的字典,用于创建模型adapters: (可选) LORA 适配器的文件名到 Blob 的 SHA256 摘要的字典template: (可选) 模型的提示模板license: (可选) 包含模型许可的一个字符串或字符串列表system: (可选) 包含模型的系统提示的字符串parameters: (可选) 模型的参数字典(有关参数列表,请参阅 Modelfile)messages: (可选) 用于创建对话的消息对象列表stream: (可选) 如果为 false,则响应将作为单个响应对象返回,而不是对象流quantize (可选): 量化一个非量化的模型(例如 float16)| 类型 | 推荐 |
|---|---|
| q2_K | |
| q3_K_L | |
| q3_K_M | |
| q3_K_S | |
| q4_0 | |
| q4_1 | |
| q4_K_M | * |
| q4_K_S | |
| q5_0 | |
| q5_1 | |
| q5_K_M | |
| q5_K_S | |
| q6_K | |
| q8_0 | * |