StepFun推理模型

复制成功!
加入对比

概述

Step 5 Preview,一款面向真实世界 Agentic 任务的旗舰基座模型。Step 5 Preview 在 AI 编程、软件工程、专业知识工作等任务上达到前沿水平,并在金融领域展现出尤为突出的能力。Step 5 Preview 采用稀疏 MoE 架构,总参数量 600B,每个 Token 激活 27B 参数,支持 1M Token 上下文窗口和视觉输入。

输入

文本图像视频

输出

文本

功能

前缀补全

调用通义千问 API 时启用 Partial Mode,可让模型严格接续您提供的前缀文本进行生成。查看文档

函数调用

通过函数调用将大模型与外部工具和系统连接起来。查看文档

缓存

Context Cache 会缓存长上下文请求的公共前缀,减少重复计算、提升响应速度并降低成本。查看文档

结构化输出

结构化输出可确保模型返回符合预期格式的 JSON 字符串。查看文档

批量任务

异步批量处理请求,降低调用成本。查看文档

联网搜索

启用联网搜索后,模型可基于实时检索的数据进行回答。查看文档

微调

基于样本数据训练模型,使其更适配特定任务。查看文档

定价

  • 输入
    ¥7/M tokens
  • 输出
    ¥20/M tokens
  • 输入(缓存命中)
    ¥0.35/M tokens

速率限制与上下文

  • 最大输入
    1M
  • 最大输出
    1M
  • 最大输入(思考模式)
    1M
  • 最大输出(思考模式)
    1M
  • 上下文
    1M
  • 最大思维链
    1M
  • TPM每分钟 Token 数
    10M
  • RPM每分钟请求数
    500

API 参考

调用API
复制成功!
1234567891011121314151617181920212223242526
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://maas.qianwenaiapi.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
    model="stepfun/step-5-preview",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "image_url",
                    "image_url": {
                        "url": "https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20241108/ctdzex/biaozhun.jpg"
                    },
                },
                {"type": "text", "text": "请仅输出图像中的文本内容。"},
            ],
        },
    ],
)
print(completion.choices[0].message.content)