初始化项目,由ModelHub XC社区提供模型
Model: Brunobkr/OFFELLIA_Quantis Source: Original Platform
This commit is contained in:
20
CLONE.txt
Normal file
20
CLONE.txt
Normal file
@@ -0,0 +1,20 @@
|
||||
CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS" pip install llama-cpp-python
|
||||
|
||||
Clonar git
|
||||
|
||||
|
||||
Para ter o controle total que você busca (dominar a operação):
|
||||
|
||||
O ideal é clonar o repositório oficial: git clone https://github.com/ggerganov/llama.cpp.
|
||||
|
||||
Substituir/Modificar os arquivos .cpp e .h com a sua lógica da OFFELLIA.
|
||||
|
||||
Compilar manualmente usando make ou cmake.
|
||||
|
||||
cd llama.cpp
|
||||
|
||||
|
||||
cmake
|
||||
|
||||
cmake --build . --config Release -j$(nproc)
|
||||
|
||||
Reference in New Issue
Block a user