ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

Kronos-small NPU 快速上手:从64根K线到完整OHLCV预测只需540ms,手把手演示

Kronos-small NPU 快速上手:从64根K线到完整OHLCV预测只需540ms,手把手演示 Kronos-small NPU 快速上手从64根K线到完整OHLCV预测只需540ms手把手演示【免费下载链接】kronos-small-npu用户可直接在华为昇腾 NPU 上运行 Kronos-small 模型用于金融 K 线OHLCV时间序列的预测与趋势方向判断。项目提供自包含交付仓支持 NPU 端到端推理确保 CPU 与 NPU 逐位一致并内置精度校验与确定性输出。项目地址: https://ai.gitcode.com/atlasleong/kronos-small-npuKronos-small NPU 是一个可直接在华为昇腾 NPU 上运行 Kronos-small 金融 K 线OHLCV时间序列预测模型的自包含交付仓。它只需输入最近64 根 K 线单次前向即可输出8 步、6 维开/高/低/收/量/额的完整 K 线预测值在单张昇腾 910B4 卡上中位耗时仅540ms 左右。全部推理在 NPU 上完成结果与 CPU 逐位一致并内置精度校验与确定性输出非常适合在昇腾 NPU 上做金融时间序列预测的读者。一、Kronos-small 是什么金融时间序列 K 线预测模型 Kronos-small 是 NeoQuasar 以 MIT 许可发布的金融 K 线candlestick时间序列基础模型核心是一个 decoder-only 自回归 Transformer编码KronosTokenizerVQ-VAE 二进制球面量化把连续 OHLCV 窗口编码为分层离散 tokens1/s2各 1024 类预测8 层 Transformerd_model512约2474 万参数逐位置贪心argmax预测 token 类别解码token 经解码并反归一化还原为连续的 K 线预测值对本项目最关键的一点模型主前向全部是纯 PyTorch 算子没有自定义 CUDA 算子无需任何算子改写通过torch_npu即可直接在 NPU 上执行。模型配置与权重快照已内置于仓库运行期完全离线。二、快速安装环境准备与克隆仓库3 步搞定1. 确认硬件与软件环境项目要求硬件昇腾 910B4-1逻辑设备npu:0CANN8.5.1框架torch 2.9.0 torch_npu 2.9.0昇腾 worker 镜像自带Python3.11先用npu-smi info确认 NPU 健康状态为OK即可。2. 克隆仓库并安装依赖git clone https://gitcode.com/atlasleong/kronos-small-npu cd kronos-small-npu source /usr/local/Ascend/ascend-toolkit/set_env.sh pip install -r requirements.txtrequirements.txt将 21 个依赖全部锁定为精确版本保证环境完全可复现。3. 一键运行 NPU K 线预测推理python3 inference.py就这一条命令入口脚本 inference.py 会依次完成以下 6 步用固定种子构建确定性的64 根 K 线OHLCV 上下文窗口存为assets/input_context.npy从本地model/加载模型与 tokenizer全部放到npu:0并硬断言设备——禁止 CPU 回退warmup 1 次 同步计时 3 次得到 8 步预测值在 CPU 上跑同一前向作为数值参考从磁盘重载数组校验 shape、NaN/Inf计算 CPU/NPU 误差打印设备标记与预测结果下面这张截图就是推理运行期间的npu-smi快照可以看到 python3.11 进程正在 NPU 0 上占用显存运行 K 线预测三、如何看懂预测结果8 步 OHLCV 与趋势方向判断 运行结束后终端会打印一组关键行节选INPUT_DEVICEnpu:0 MODEL_DEVICEnpu:0 OUTPUT_DEVICEnpu:0 CPU_FALLBACKfalse CONTEXT_LEN64 HORIZON8 FORECAST_SHAPE[8, 6] DIAGNOSTIC_DIRECTION[1, 1, 1, 1, 1, 1, 1] EXIT_CODE0重点看三处FORECAST[8, 6]8 步预测 K 线每行 6 列依次是 open/high/low/close/volume/amount。首步收盘价 102.47末步 102.89整体温和上行DIAGNOSTIC_DIRECTION[1,1,1,1,1,1,1]7 步收盘价变化方向全部为「涨」1涨、0跌即模型给出的趋势方向判断设备标记均为npu:0且CPU_FALLBACKfalse证明主推理真实发生在 NPU 上真实的 NPU 推理输出、8 步预测值与设备校验结果如下输入上下文、NPU 输出、CPU 参考输出三个数组都会落盘到assets/如assets/forecasts_npu.npy、assets/forecasts_cpu.npy随时可重新加载复核。四、性能与精度实测540ms 中位耗时CPU/NPU 逐位一致 ⚡单卡 910B4 实测耗时3 次同步计时用torch.npu.synchronize()包裹含 tokenizer 编解码 8 步自回归指标数值第 1 次544.09 ms第 2 次541.25 ms第 3 次542.67 ms中位数542.67 ms约 540ms也就是说单卡从 64 根 K 线到完整 8 步 OHLCV 预测只要约0.5 秒。精度校验max_abs_error 0项目采用确定性贪心解码argmax 固定种子相同输入在 CPU 与 NPU 上产生相同的 token 序列与解码结果。实测校验结果CPU_NPU_MAX_ABS_ERROR0.000000000CPU_NPU_BITWISE_EQUALTrue48 个 float32 元素全部逐位一致CPU_NPU_DIRECTION_EQUALTrue趋势方向判断一致此外还做了 10 个不同种子样本的回归共 480 个元素误差同样全为 0——精度结果完全可复现。五、模型适配全流程一览 从模型审计、NPU 适配、精度修复确定性解码到交付验证整个过程由 Model Agent 自动完成。下图是完整工作流记录包含权重哈希核对、CPU/NPU 精度对比与多样本回归验证六、关键文件速查 文件说明inference.pyNPU 推理入口设备断言、同步计时、精度校验、结果输出runner_lib.py共享工具固定种子构建 64 根 K 线输入、加载预测器、单次确定性预测requirements.txt21 个精确 pin 的依赖清单model/config.json模型超参数8 层、d_model512、8 头注意力等model/model.safetensorsKronos-small 权重快照约 2474 万参数assets/输入上下文与 CPU/NPU 预测数组证据文件上手提示本次交付使用固定种子的合成 K 线窗口用于保证跨设备可复现的精度验证。接入真实行情数据时只需按同样的 OHLCV 六列格式替换runner_lib.py中构建的输入窗口即可复用同一套 NPU 推理与校验流程。【免费下载链接】kronos-small-npu用户可直接在华为昇腾 NPU 上运行 Kronos-small 模型用于金融 K 线OHLCV时间序列的预测与趋势方向判断。项目提供自包含交付仓支持 NPU 端到端推理确保 CPU 与 NPU 逐位一致并内置精度校验与确定性输出。项目地址: https://ai.gitcode.com/atlasleong/kronos-small-npu创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表