概括
POST /api/create
files
字段中使用与每个 Blob 关联的文件名和 SHA256 摘要。参数
model
: 要创建的模型的名称from
: (可选) 要从中创建新模型的现有模型的名称files
: (可选) 文件名到 Blob 的 SHA256 摘要的字典,用于创建模型adapters
: (可选) LORA 适配器的文件名到 Blob 的 SHA256 摘要的字典template
: (可选) 模型的提示模板license
: (可选) 包含模型许可的一个字符串或字符串列表system
: (可选) 包含模型的系统提示的字符串parameters
: (可选) 模型的参数字典(有关参数列表,请参阅 Modelfile)messages
: (可选) 用于创建对话的消息对象列表stream
: (可选) 如果为 false
,则响应将作为单个响应对象返回,而不是对象流quantize
(可选): 量化一个非量化的模型(例如 float16)量化类型
类型 | 推荐 |
---|---|
q2_K | |
q3_K_L | |
q3_K_M | |
q3_K_S | |
q4_0 | |
q4_1 | |
q4_K_M | * |
q4_K_S | |
q5_0 | |
q5_1 | |
q5_K_M | |
q5_K_S | |
q6_K | |
q8_0 | * |
修改于 2025-03-17 08:20:56