DeepSeek

复制成功!
立即体验加入对比
文本生成推理

概述

文本生成推理

DeepSeek-V3 为自研 MoE 模型,671B 参数,激活 37B,在 14.8T token 上进行了预训练,在长文本、代码、数学、百科、中文 能力上表现优秀。

输入

文本

输出

文本

功能

前缀补全

您可在调用通义千问 API 时启用 Partial Mode,确保模型严格基于您的起始文本进行生成。查看文档

函数调用

您可以使用 函数调用 功能,通过引入外部工具,使得大模型可以与外部世界进行交互。查看文档

缓存

Context Cache 技术会缓存长上下文请求的公共前缀,减少推理时的重复计算,提升响应速度同时降低您的使用成本。查看文档

结构化输出

开启结构化输出功能可以确保大模型输出标准格式的 JSON 字符串。查看文档

批量任务

联网搜索

启用联网检索功能后,模型将基于实时检索数据进行回复。查看文档

微调

定价

  • 输入
    ¥2/M tokens
  • 输出
    ¥8/M tokens
  • 输入(缓存命中)
    ¥0.4/M tokens
  • 输入(Batch File)
    ¥1/M tokens
  • 输出(Batch File)
    ¥4/M tokens

速率限制与上下文

  • 最大输入
    57.34K
  • 最大输出
    8.19K
  • RPM每分钟请求数
    15K
  • TPM每分钟 Token 数
    1.20M
  • 上下文
    65.53K

API 参考

获取 API Key
复制成功!
123456789101112131415161718
import os
from openai import OpenAI

client = OpenAI(
    # 若没有配置环境变量,请用百炼API Key将下行替换为:api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(
    model="deepseek-v3",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "你是谁?"},
    ],
    stream=True
)
for chunk in completion:
    print(chunk.choices[0].delta.content, end="", flush=True)