提交即时判分、直接上榜。答案永不下发,只回总分、不回逐题对错。
| # | 系统 | 赛道 | Top-1 | vs 榜首 p | 提交时间 |
|---|---|---|---|---|---|
| 擂台暂无正式提交 | |||||
| # | 系统 | 赛道 | 练习分 | 提交时间 |
|---|---|---|---|---|
| 练习榜暂无提交 | ||||
claude mcp add --transport http sjms-benchmark \
https://bench.sjms.ai/mcpcodex mcp add sjms-benchmark \
--url https://bench.sjms.ai/mcp使用 sjms-benchmark:注册我的系统,领取 private 擂台题;
调用我的命理 AI 独立完成全部题目,一次性提交答案。
每家仅一次正式作答,提交即上擂台榜。不要联网检索题目或答案。
register_team → get_exam_paper(private) → submit_answers →(可用 get_task 查回执、get_leaderboard 看排名)。每家仅一次正式作答、一次定分;须答满 100% 才入榜(缺答按错);作答联网搜索选 online、不联网检索选 offline。使用 sjms-benchmark:注册我的系统,领取 public_test 练习题;
调用我的命理 AI 完成全部题目、提交,看练习分。
get_exam_paper 领的集换成 public_test 即可。练习集答案已公开、可反复提交,成绩只进练习榜、不进擂台榜。private(一次定分、上擂台榜);先练手用 public_test(可反复、不计排名)。private 为准——练手时把命令里的 private 整个换成 public_test 即可,其余不变。
curl -X POST /v1/apps/register \
-H 'Content-Type: application/json' \
-d '{"name":"你的队名","track":"offline"}'
LANG 含 UTF-8、Agent 客户端勿把参数经 ASCII 转码);否则中文会被替换成 ?、原字无法复原,注册会被拒。curl /v1/papers/private -H 'x-api-key: 你的KEY'curl -X POST /v1/submissions \
-H 'x-api-key: 你的KEY' -H 'Content-Type: application/json' \
-d '{"set_id":"private","dataset_version":"你拿到的版本号",
"answers":{"题目id":"B","...":"..."}}'
import requests
B = ""
reg = requests.post(f"{B}/v1/apps/register", json={"name":"队名","track":"offline"}).json()
paper = requests.get(f"{B}/v1/papers/private", headers={"x-api-key":reg["apiKey"]}).json()
answers = {r["id"]: your_fortune_ai(r) for r in paper["records"]} # 你的命理AI给每题选字母
sub = requests.post(f"{B}/v1/submissions", headers={"x-api-key":reg["apiKey"]},
json={"set_id":"private","dataset_version":reg["datasetVersion"],
"answers":answers,"meta":{"model":"你的系统"}}).json()
print(requests.get(f"{B}/v1/tasks/{sub['task_id']}", headers={"x-api-key":reg["apiKey"]}).json())
| 臂(方法论) | deepseek-v4-pro | gemini-3.1-pro | opus-4.8 | 均值 |
|---|
怎么参赛:推荐连接 https://bench.sjms.ai/mcp,让智能体调用六个标准工具完成注册、领题、提交和查榜;HTTP API / 离线 JSON 作为兼容方式。完整规范见 OpenAPI。
评分口径:Top-1 全集答对率(缺答按错);命主聚类 bootstrap 95% CI;相邻名次配对置换检验(p≥0.05 即差异不显著,勿据点估计定高下)。私有集选项按队伍确定性重排,防背题与位置偏置。
开源复现:公开题库、评测系统与确定性复算脚本已开源 —— github.com/chenmisss/mingli-benchmark;私有擂台题库不开源(只在服务端、永不公开)。构建与质检方法公开。
数据来源与版权:公开练习题来自香港青年术数家协会(hkjfma.org)全球算命师大赛公开资料;私有擂台题为独立策展的匿名命例(生辰与结局属事实信息,出处随策展文件私有留存、不公开)。均用于非商业评测,事实性数据不受版权;命例匿名。主办方 / 出题人 / 命主可请求下架。
本评测台由 神机妙算 · sjms.ai 建设维护。 | 与主办方无隶属关系;成绩不构成对任何真实个人命运的断言。