Vanchin DeepSeek

复制成功!
加入对比

概述

DeepSeek-V3 由深度求索(DeepSeek)于 2024 年 12 月发布,是目前开源社区领先的混合专家(MoE)语言模型:总参数 671B,每个 token 仅激活 37B 参数。模型在 14.8 万亿高质量 tokens 上完成预训练,原生支持 128k 上下文。通过创新的无辅助损失负载均衡策略、多头潜在注意力(MLA)架构和 FP8 混合精度训练。

输入

文本

输出

文本

功能

前缀补全

调用通义千问 API 时启用 Partial Mode,可让模型严格接续您提供的前缀文本进行生成。查看文档

函数调用

通过函数调用将大模型与外部工具和系统连接起来。查看文档

缓存

Context Cache 会缓存长上下文请求的公共前缀,减少重复计算、提升响应速度并降低成本。查看文档

结构化输出

结构化输出可确保模型返回符合预期格式的 JSON 字符串。查看文档

批量任务

异步批量处理请求,降低调用成本。查看文档

联网搜索

启用联网搜索后,模型可基于实时检索的数据进行回答。查看文档

微调

基于样本数据训练模型,使其更适配特定任务。查看文档

定价

  • 输入
    ¥2/M tokens
  • 输出
    ¥8/M tokens
  • 输入(缓存命中)
    ¥0.8/M tokens

速率限制与上下文

  • 最大输入
    131K
  • 最大输出
    16K
  • 上下文
    131K
  • TPM每分钟 Token 数
    1M
  • RPM每分钟请求数
    500

API 参考

调用API
复制成功!
1234567891011121314151617181920212223
from openai import OpenAI
import os

client = OpenAI(
    api_key="sk-xxx",  # 替换为你的百炼API Key
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
    model="vanchin/deepseek-v3",
    messages=[{"role": "user", "content": "你是谁"}],
    extra_body={"enable_thinking": True},
    stream=True,
)

for chunk in completion:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if hasattr(delta, "reasoning_content") and delta.reasoning_content:
        print(delta.reasoning_content, end="", flush=True)
    if hasattr(delta, "content") and delta.content:
        print(delta.content, end="", flush=True)