Kimi

复制成功!
立即体验加入对比
文本生成

概述

文本生成

Kimi-K2是月之暗面提供的国内首个开源万亿参数MoE模型,激活参数达 320 亿,具有卓越的编码和工具调用能力。

输入

文本

输出

文本

功能

前缀补全

您可在调用通义千问 API 时启用 Partial Mode,确保模型严格基于您的起始文本进行生成。查看文档

函数调用

您可以使用 函数调用 功能,通过引入外部工具,使得大模型可以与外部世界进行交互。查看文档

缓存

Context Cache 技术会缓存长上下文请求的公共前缀,减少推理时的重复计算,提升响应速度同时降低您的使用成本。查看文档

结构化输出

开启结构化输出功能可以确保大模型输出标准格式的 JSON 字符串。查看文档

批量任务

联网搜索

启用联网检索功能后,模型将基于实时检索数据进行回复。查看文档

微调

定价

  • 输入
    ¥4/M tokens
  • 输出
    ¥16/M tokens
  • 输入(缓存命中)
    ¥0.8/M tokens

速率限制与上下文

  • RPM每分钟请求数
    500
  • TPM每分钟 Token 数
    1M
  • 上下文
    131.07K

API 参考

获取 API Key
复制成功!
123456789101112131415161718
import os
from openai import OpenAI

client = OpenAI(
    # 若没有配置环境变量,请用百炼API Key将下行替换为:api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(
    model="Moonshot-Kimi-K2-Instruct",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "你是谁?"},
    ],
    stream=True
)
for chunk in completion:
    print(chunk.choices[0].delta.content, end="", flush=True)