介绍

Mamba: Linear-Time Sequence Modeling with Selective State Spaces
论文:
https://arxiv.org/abs/2312.00752
Code: https://github.com/state-spaces/mamba 目前 5.3k Star
同时适配VMamba

主要是为了解决 pip install causal_conv1d mamba_ssm 老是安装出错。
包括但不限于各种 setup 不了,版本对不上…:

Building wheel for causal-conv1d ( setup.py ) .. . error error: subprocess-exited-with-error

所以直接建了个docker,但是还是有问题,最后按照 Mamba repo issue#55 的方法总算是装上了。
包含Mamba v1.1.1 的基础环境, Ubuntu20.04 ,是以 nvidia/cuda 官方11.7版本docker为基础构建的,具体有以下包:

cuda==11.7 (docker: nvidia/cuda)

pytorch==1.13

causal_conv1d==1.1.1

mamba_ssm==1.1.1

DockHub仓库地址: https://hub.docker.com/repository/docker/kom4cr0/cuda11.7-pytorch1.13-mamba1.1.1/general

docker pull kom4cr0/cuda11.7-pytorch1.13-mamba1.1.1:1.1.1 
# 这个docker的tag是1.1.1,请不要使用latest或者默认
python  # 或者python3
>>>import torch
>>>from mamba_ssm import Mamba
        # docker
        # python
        # transformer
        # 深度学习
      
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

  • 浏览量 1.3w
  • 收藏 0
  • 0

所有评论(0)