WIN11中安装Mamba常见问题解决方案

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化,内置完整运行环境与 Qwen3-32B 模型依赖,开箱即用。

1. 安装triton,下面提供一个WIN10/11编译好的Triton版本:

triton-2.0.0-cp310-cp310-win_amd64.whl
运行指令:pip install triton-2.0.0-cp310-cp310-win_amd64.whl

2. 安装causal-conv1d

FORCE_BUILD = os.getenv("CAUSAL_CONV1D_FORCE_BUILD", "FALSE") == "TRUE"
SKIP_CUDA_BUILD = os.getenv("CAUSAL_CONV1D_SKIP_CUDA_BUILD", "FALSE") == "TRUE"
# For CI, we want the option to build with C++11 ABI since the nvcr images use C++11 ABI
FORCE_CXX11_ABI = os.getenv("CAUSAL_CONV1D_FORCE_CXX11_ABI", "FALSE") == "TRUE"

将三个TRUE改为FALSE:

FORCE_BUILD = os.getenv("CAUSAL_CONV1D_FORCE_BUILD", "FALSE") == "FALSE"
SKIP_CUDA_BUILD = os.getenv("CAUSAL_CONV1D_SKIP_CUDA_BUILD", "FALSE") == "FALSE"
# For CI, we want the option to build with C++11 ABI since the nvcr images use C++11 ABI
FORCE_CXX11_ABI = os.getenv("CAUSAL_CONV1D_FORCE_CXX11_ABI", "FALSE") == "FALSE"

 3. 问题3:RuntimeError: mamba_ssm is only supported on CUDA 11.6 and above.

直接升级升级到11.8: conda install cudatoolkit==11.8 -c nvidia
安装NVCC:conda install -c "nvidia/label/cuda-11.8.0" cuda-nvcc

或者官方下载手动安装:CUDA Toolkit 11.8 Downloads

4. 问题4:The detected CUDA version (11.8)mismatches the version that was used compile PyTorch (12.4) :

安装对应版本torch,重新卸载安装一下torch解决。

测试:

import torch
torch.cuda.is_available()
torch.backends.cudnn.version()
torch.version.cuda

5. 问题5: subprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘]‘ returned non-zero exit status 1.

def _run_ninja_build(build_directory: str, verbose: bool, error_prefix: str) -> None:
    command = ['ninja', '-v']

改成:

def _run_ninja_build(build_directory: str, verbose: bool, error_prefix: str) -> None:
    command = ['ninja', '--version']

6. 问题6:执行安装mamba的时候提示:error: command 'D:\\Program Files\\Microsoft Visual Studio\\2022\\Professional\\VC\\Tools\\MSVC\\14.37.32822\\bin\\HostX86\\x64\\link.exe' failed with exit code 1181

官网下载安装C++编译环境:Microsoft C++ 生成工具 - Visual Studio

参考资料:

1.Pytorch的gpu配置-CSDN博客

2.Windows系统下安装causal_conv1d和mamba_ssm_windows安装causal-conv1d包buildtool-CSDN博客

3. Python3 安装软件出现 cl.exe failed with exit status 2 错误_cl.exe' failed with exit code 2-CSDN博客

4.Windows系统下安装causal_conv1d和mamba_ssm_windows安装causal-conv1d包buildtool-CSDN博客

5. UserWarning: Error checking compiler version for cl: [WinError 2] 系统找不到指定的文件。-CSDN博客

6. Python3 安装软件出现 cl.exe failed with exit status 2 错误_cl.exe' failed with exit code 2-CSDN博客

您可能感兴趣的与本文相关的镜像

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen
文本生成
Qwen3

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化,内置完整运行环境与 Qwen3-32B 模型依赖,开箱即用。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值