این نوتبوکها به شما امکان میدهد که به راحتی مدل زبانی Gemma3:12B یا هر مدل دیگری را به طور محلی با استفاده از Ollama و Langchain اجرا کنید. این یک روش مناسب برای آزمایش این مدل قدرتمند بدون نیاز به APIهای خارجی است.
- ربات چت ساده بر پایه gemma3:12b (یا هر مدل دیگر)
- ربات چت RAG با استفاده از پایگاه دانش با محتوای فارسی برای پاسخگویی دقیق
- شاید ادامه داشته باشد...
این پروژه نیازی به تنظیمات جداگانه ندارد. فقط کافی است سلولهای هر Jupyter Notebook را به ترتیب از ابتدا اجرا کنید.
به راحتی میتوانید از این پروژه برای اهداف خوب استفاده کنید. این ابزار بدون نیاز به تماس با API، دادهها و درخواستها را ایمن نگه داشته و بدون هیچ هزینهای در اختیار شما قرار میدهد.
- Ollama پیدا نشد: مطمئن شوید که Ollama به درستی نصب شده و در PATH سیستم شما قابل دسترسی باشد. اطمینان حاصل کنید که Ollama در حال اجرا است.
- خطاهای دانلود: اگر در حین دانلود مدل با خطا مواجه شدید، اتصال اینترنت و فضای دیسک موجود را بررسی کنید. سعی کنید کش Ollama را پاک کنید:
ollama cache clean. - محدودیت منابع: اجرای مدلهای زبانی بزرگ نیازمند منابع محاسباتی قابل توجهی (CPU، RAM، GPU) است. اگر با مشکلات عملکردی یا خطاهایی مواجه شدید، سعی کنید از مدل کوچکتری از gemma3 یا مدل دیگری استفاده کنید.
- تضاد نسخه مدل: مطمئن شوید که نام مدل استفاده شده در Notebook (
gemma3:12b) با نسخهای که با Ollama دریافت کردهاید مطابقت دارد.
از شما دعوت میشود که این مخزن را فورک کنید و درخواستهای تغییر یا رفع اشکال را ارسال نمایید.
مجوز MIT