@@ -24,6 +24,7 @@ if [[ ! -f "conda/envs/linux/bin/python" && $KCPP_CUDA == "rocm" || $1 == "rebui
2424 echo " rocm" > conda/envs/linux/cudaver
2525fi
2626
27+ TK_ENV_VARS=" FONTCONFIG_PATH=\$ CONDA_PREFIX/etc/fonts"
2728KCPP_CUDA=$( < conda/envs/linux/cudaver)
2829KCPP_CUDAAPPEND=-cuda${KCPP_CUDA// .} $KCPP_APPEND
2930
@@ -67,27 +68,27 @@ if [[ $1 == "rebuild" ]]; then
6768 echo Rebuild complete, you can now try to launch Koboldcpp.
6869elif [[ $1 == " dist" ]]; then
6970 bin/micromamba remove --no-rc -r conda -p conda/envs/linux --force ocl-icd -y
70- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
71+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
7172 if [ " $KCPP_CUDA " = " rocm" ]; then
7273 if [ ! -n " $ROCM_PATH " ]; then
7374 ROCM_PATH=/opt/rocm
7475 fi
7576 if [ -n " $NOAVX1 " ]; then
76- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
77+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
7778 elif [ -n " $NOAVX2 " ]; then
78- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
79+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
7980 else
80- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
81+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
8182 fi
8283 else
83- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
84+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
8485 if [ -n " $NOAVX1 " ]; then
85- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
86+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
8687 elif [ -n " $NOAVX2 " ]; then
87- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
88+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
8889 else
89- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
90- bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-nocuda$KCPP_APPEND "
90+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
91+ bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-nocuda$KCPP_APPEND "
9192 fi
9293 fi
9394 bin/micromamba install --no-rc -r conda -p conda/envs/linux ocl-icd -c conda-forge -y
0 commit comments