llamacpp 설치할 때 llava관련 에러 뜰 때

그냥 llava build 끄고 pip install llama-cpp-python 하면 된다.

export CMAKE_ARGS="-DLLAVA_BUILD=OFF"

 

cuda 쓰려면

 

export CMAKE_ARGS="-DGGML_CUDA=on -DLLAVA_BUILD=OFF" && export FORCE_CMAKE=1 && pip install --upgrade --force-reinstall llama-cpp-python --no-cache-dir