1.RuntimeError: Failed to import transformers.integrations.bitsandbytes because of the following error (look up to see its traceback):

解决方法:
(1)在终端中运行以下命令,查看详细的错误信息:
python -m bitsandbytes
输出如下:

这个错误表明 bitsandbytes 在 Windows 系统上无法找到 CUDA 运行时库 libcudart.so。
根本原因:bitsandbytes 在寻找 Linux 风格的 CUDA 库文件 libcudart.so,但您使用的是 Windows 系统。在 Windows 上,CUDA 库文件是 .dll 格式,而不是 Linux 的 .so 格式。
最佳解决方案:使用预编译的 Windows 版本
pip uninstall bitsandbytes
pip install https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.41.1-py3-none-win_amd64.whl

3483

被折叠的 条评论
为什么被折叠?



