支持通过 Anthropic 和 OpenAI 兼容接口进行文本生成调用。
OpenAI 兼容接口 (推荐)
如部分功能本文档未提及，请参考 OpenAI官方文档
消息体结构说明
| 消息类型 | 功能描述 | 示例内容 |
|---|
| system | 模型指令，设定AI角色，描述模型应一般如何行为和响应 | 例如：“你是有10年经验的儿科医生” |
| user | 用户输入，将最终用户的消息传递给模型 | 例如：“幼儿持续低烧应如何处理？“ |
| assistant | 模型生成的历史回复，为模型提供示例，说明它应该如何回应当前请求 | 例如：“建议先测量体温…” |
基础对话
from openai import OpenAI
client = OpenAI(
base_url="https://BASE_URL/v1",
api_key="", # 替换为你在本站点的 API Key
)
response = client.chat.completions.create(
model="deepseek-r1",
messages=[
{
"role": "user",
"content": "say 1"
}
]
)
print(response.choices[0].message.content)
流式响应
from openai import OpenAI
client = OpenAI(
base_url="https://BASE_URL/v1",
api_key="", # 替换为你在本站点的 API Key
)
stream = client.chat.completions.create(
model="deepseek-r1",
messages=[
{
"role": "user",
"content": "写一首关于春天的诗"
}
],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
工具调用（Function Calling）
更多详情参考 OpenAI 函数调用指南
from openai import OpenAI
client = OpenAI(
base_url="https://BASE_URL/v1",
api_key="", # 替换为你在本站点的 API Key
)
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "获取指定城市的天气信息",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称"
}
},
"required": ["city"]
}
}
}
]
response = client.chat.completions.create(
model="deepseek-r1",
messages=[
{
"role": "user",
"content": "北京今天天气怎么样？"
}
],
tools=tools
)
print(response.choices[0].message)
Response 接口
注意事项
如果在使用过程中遇到任何问题：
- 联系我们的技术支持团队
- 在我们的 工单中心 提交工单反馈
- 使用时需要将
OPENAI_BASE_URL 设置为 https://BASE_URL/v1
OPENAI_API_KEY 应设置为您的 API Keytemperature 参数取值范围为(0.0, 1.0]，推荐使用 1.0，超出范围会返回错误- 部分 OpenAI 参数（如
presence_penalty、frequency_penalty、logit_bias 等）会被忽略
- 旧版的
function_call 已废弃，请使用 tools 参数
Anthropic 兼容接口
如部分功能本文档未提及，请参考 Anthropic官方文档
基础对话
import anthropic
client = anthropic.Anthropic(
base_url="https://BASE_URL/anthropic",
api_key="" # 替换为你在本站点的 API Key
)
message = client.messages.create(
model="deepseek-r1",
max_tokens=1024,
messages=[
{
"role": "user",
"content": "请用简单的语言解释什么是机器学习"
}
]
)
print(message.content[0].text)
流式响应
import anthropic
client = anthropic.Anthropic(
base_url="https://BASE_URL/anthropic",
api_key="" # 替换为你在本站点的 API Key
)
with client.messages.stream(
model="deepseek-r1",
max_tokens=1024,
messages=[
{
"role": "user",
"content": "写一首关于春天的诗"
}
]
) as stream:
for text in stream.text_stream:
print(text, end="", flush=True)
工具调用（Function Calling）
更多详情参考 Anthropic 函数调用指南
import anthropic
client = anthropic.Anthropic(
base_url="https://BASE_URL/anthropic",
api_key="" # 替换为你在本站点的 API Key
)
tools = [
{
"name": "get_weather",
"description": "获取指定城市的天气信息",
"input_schema": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称"
}
},
"required": ["city"]
}
}
]
message = client.messages.create(
model="deepseek-r1",
max_tokens=1024,
tools=tools,
messages=[
{
"role": "user",
"content": "北京今天天气怎么样？"
}
]
)
print(message.content)
注意事项
- 使用时需要将
ANTHROPIC_BASE_URL 设置为 https://BASE_URL/v1
ANTHROPIC_API_KEY 应设置为您的 API Key
相关链接