fix: adapt to llama.cpp breaking changes (#166)

giladgd · web-flow · commit 7450aae1faf8 · 2024-02-19T00:35:00.000+02:00
diff --git a/llama/addon.cpp b/llama/addon.cpp
@@ -39,7 +39,7 @@ class LLAMAModel : public Napi::ObjectWrap<LLAMAModel> {
             }
         }
 
-        llama_backend_init(false);
+        llama_backend_init();
         model = llama_load_model_from_file(modelPath.c_str(), model_params);
 
         if (model == NULL) {
@@ -436,7 +436,7 @@ Napi::Value LLAMAContext::Eval(const Napi::CallbackInfo& info) {
 Napi::Value systemInfo(const Napi::CallbackInfo& info) { return Napi::String::From(info.Env(), llama_print_system_info()); }
 
 Napi::Object registerCallback(Napi::Env env, Napi::Object exports) {
-  llama_backend_init(false);
+  llama_backend_init();
   exports.DefineProperties({
       Napi::PropertyDescriptor::Function("systemInfo", systemInfo),
   });

Original file line number	Diff line number	Diff line change
`@@ -39,7 +39,7 @@ class LLAMAModel : public Napi::ObjectWrap<LLAMAModel> {`
`39`	`39`	`}`
`40`	`40`	`}`
`41`	`41`
`42`		`- llama_backend_init(false);`
	`42`	`+ llama_backend_init();`
`43`	`43`	`model = llama_load_model_from_file(modelPath.c_str(), model_params);`
`44`	`44`
`45`	`45`	`if (model == NULL) {`
`@@ -436,7 +436,7 @@ Napi::Value LLAMAContext::Eval(const Napi::CallbackInfo& info) {`
`436`	`436`	`Napi::Value systemInfo(const Napi::CallbackInfo& info) { return Napi::String::From(info.Env(), llama_print_system_info()); }`
`437`	`437`
`438`	`438`	`Napi::Object registerCallback(Napi::Env env, Napi::Object exports) {`
`439`		`- llama_backend_init(false);`
	`439`	`+ llama_backend_init();`
`440`	`440`	`exports.DefineProperties({`
`441`	`441`	`Napi::PropertyDescriptor::Function("systemInfo", systemInfo),`
`442`	`442`	`});`