نحوه نصب Kobold AI API: راهنمای گام به گام آسان

از نوشتن خلاق تا تولید محتوای حرفه‌ای، KoboldAI یکی از راه‌حل‌های عالی و جایگزین OpenAI برای نوشتن با کمک هوش مصنوعی است، همچنین تجربه‌ای بی‌نظیر و شهودی را فراهم می‌کند که روند نوشتن شما را ارتقا می‌دهد.

این صفحه نمایش مبتنی بر مرورگر دارد که به کاربران امکان می‌دهد با کمک ابزارهایی مانند حافظه، یادداشت نویسنده، اطلاعات جهانی، ذخیره و بارگذاری، و سایر تنظیمات هوش مصنوعی قابل تنظیم، داستان‌ها، رمان‌ها، ربات‌های گفتگو و موارد دیگر را ایجاد و ویرایش کنند.

در این راهنما می‌خواهید نحوه نصب و راه‌اندازی Kobold AI و استفاده از آن در مرورگر وب خود را بیاموزید. همچنین یاد خواهید گرفت که چگونه از URL در Janitor AI یا Venus AI برای چت کردن با شخصیت ها استفاده کنید.

این آموزش نیازی به دانش فنی لازم برای انجام ندارد. شما می توانید این را به راحتی راه اندازی کنید و در عرض چند دقیقه Kobold AI API خود را خواهید داشت.

راه اندازی Kobold AI در Colab به صورت رایگان

Colab یک ابزار تحقیقاتی است که توسط Google بر روی نوت بوک Jupyter ساخته شده است که می تواند برای استقرار مدل ها یا اسکریپت های مبتنی بر زبان پایتون یا R استفاده شود. همچنین یک GPU Nvidia Tesla T4 به صورت رایگان دریافت خواهید کرد. این GPU در Google Cloud حدود 250 دلار قیمت دارد.

اکنون ما باید هوش مصنوعی Kobold را در Google Colab راه اندازی کنیم.

به پیوند با Kobold AI با GPU بروید.

فایل صوتی را برای زنده نگه داشتن برگه پخش کنید

یک متن خوشامدگویی را خواهید دید “به KoboldAI در Google Colab، نسخه GPU خوش آمدید!“

به بخش مانند شکل زیر بروید.

اگر از تلفن همراه برای انجام این عملیات استفاده می‌کنید، باید روی دکمه پخش کلیک کنید تا صدا تولید شود. این به این دلیل است که استقرار کمی زمان می برد و همچنین برای زنده نگه داشتن برگه در مرورگر خود، باید صدا را پخش کنید.

روی نماد پخش کلیک کنید و سپس پخش صدا را شروع کنید.

اخطاری در مورد “این نوت بوک توسط Google نوشته نشده است“

دریافت خواهید کرد

روی در هر حال اجرا کلیک کنید.

کمی صبر کنید تا بتوانید نماد تیکی را در نزدیکی دکمه پرداخت مشاهده کنید که نشان می‌دهد اجرا به پایان رسیده است.

اکنون یک پخش کننده صوتی خواهید دید. پخش صدا.

Install Kobold AI API – Official

اکنون در بخش بعدی باید مدل مورد نظر را که مناسب شماست انتخاب کنید. در زیر در جدول توضیحاتی در مورد مدل ها ارائه شده است.

مدل	سبک
Pygmalion-6b	NSFW/Chat
No
No
NerysErebus-6.7b	NSFW
Skein-6b	Adventure
Adventure 6b	Adventure
	PPO-untr>		PPO-In-Py >
Janeway-6b	رمان
Lit-6b	رمان
Nerybus-6.7b	Novel/NSFW
Novel/NSFW
Novel/Shin-en- مدل های مختلف 2.7b

یکی از مدل های فهرست شده مورد نیاز خود را انتخاب کنید.

کد را به‌روزرسانی کنید تا مدل‌های دیگر را نیز شامل شود

دکمه نمایش کد را کلیک کنید و مدل‌های Nerybus 6B و Erebus 6B

را وارد کنید

Model = "Nerys V2 6B" #@param ["Nerys V2 6B", "Skein 6B", "Janeway 6B", "Adventure 6B", "Nerys 2.2Pard", "J.2.7B" 7B، "OPT 2.7B"، "Fairseq Dense 2.7B"، "Neo 2.7B"، "Nerybus 6B"، "Erebus 6B"] {مجاز ورودی: true}

شرایط if زیر را با شرایط اضافی به‌روزرسانی کنید و آماده استفاده از مدل‌های دیگر هستید.

if Model == "Nerys V2 6B":
  Model = "KoboldAI/OPT-6B-nerys-v2"
  مسیر = ""
  دانلود = ""
#کدهای اضافی اضافه می شود
elif Model == "Nerybus 6B":
  Model = "KoboldAI/OPT-6.7B-Nerybus-Mix"
  مسیر = ""
  دانلود = ""
Elif Model == "Erebus 6B":
  مدل = "KoboldAI/OPT-6.7B-Erebus"
  مسیر = ""
  دانلود = ""

اگر نیازی به استفاده از Google Drive ندارید، می‌توانید آن را بررسی کنید (اختیاری). اگر می‌خواهید از Google Drive استفاده کنید، باید در صورت درخواست اجازه دسترسی بدهید.

برای شروع استقرار، روی دکمه Play کلیک کنید.

استقرار با خروجی زیر از نوع GPU که برای Kobold AI استفاده می شود شروع می شود

+--------------------------------------------------------------------
| NVIDIA-SMI 525.85.12 نسخه درایور: 525.85.12 نسخه CUDA: 12.0 |
|-------------------------------------------------------------------------
| نام پردازنده گرافیکی Persistence-M| Bus-Id Disp.A | فرار Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| حافظه-استفاده | GPU-Util Compute M. |
| | | MIG M. |
|==================================================+========================================================================================================================================================================================================================
| 0 تسلا T4 خاموش | 00000000:00:04.0 تخفیف| 0 |
| N/A 37C P8 9W / 70W | 0MiB / 15360MiB | 0% پیش فرض |
| | | N/A |
+-------------------------------------------------------------------------
                                                                            
+-------------------------------------------------------------------------
| فرآیندها: |
| GPU GI CI PID نوع نام فرآیند حافظه GPU |
| شناسه استفاده |
|===========================================================================|
| هیچ فرآیند در حال اجرا یافت نشد |
+-------------------------------------------------------------------------+

با تنظیم همه درایورها و بسته‌هایی که برای اجرای Kobold AI API مورد نیاز هستند، مدتی منتظر بمانید تا استقرار کامل شود.

پس از تکمیل استقرار، خروجی مشابه زیر دریافت خواهید کرد، از آنجا یک URL برای بررسی هوش مصنوعی Kobold خود در مرورگر خود دریافت خواهید کرد.

INIT | شروع | پل LUA
INIT | باشه | پل LUA
INIT | شروع | اسکریپت های LUA
INIT | باشه | اسکریپت های LUA
INIT | باشه | وب سرور
پیام | بارگیری KoboldAI به پایان رسیده است و در لینک زیر در دسترس است: https://petersburg-source-shark-blade.trycloudflare.com

در پیام، URL خود را خواهید دید. زمانی که نسخه را به عنوان رسمی انتخاب کرده اید، خروجی ایجاد می کند.

شما رابط کاربری قدیمی را خواهید داشت که شبیه زیر است.

آقا شما تمام جزئیات هوش مصنوعی Kobold مانند وضعیت اتصال، مدل استفاده شده و بسیاری موارد دیگر را خواهید دید.

نصب Kobold AI United

برای استفاده از رابط کاربری جدید در Kobold UI United، فقط باید قبل از استقرار یک تغییر واحد در تنظیمات خود ایجاد کنید.

نسخه را به عنوان United انتخاب کنید.

دکمه پخش را کلیک کنید.

پس از تکمیل استقرار، URL های زیر را دریافت خواهید کرد

• رابط کاربری قدیمی هوش مصنوعی Kobold
• رابط کاربری جدید هوش مصنوعی Kobold
• Kobold AI Lite
• نشانی اینترنتی Kobold AI API

هنگامی که URL ها را دریافت کردید، باید مدتی صبر کنید تا تانسورها بارگیری شوند. پس از اتمام، می توانید از رابط کاربری جدید استفاده کنید.

اطلاعات | modelet path': هیچ، 'menu_path': ''}
INIT | شروع | فلاسک
INIT | باشه | فلاسک
INIT | شروع | وب سرور
INIT | باشه | وب سرور
پیام | بارگیری KoboldAI به پایان رسیده است و در پیوند زیر برای UI 1 در دسترس است: https://claimed-g-jokes-undertaken.trycloudflare.com
پیام | بارگیری KoboldAI به پایان رسیده است و در پیوند زیر برای UI 2 در دسترس است: https://claimed-g-jokes-undertaken.trycloudflare.com/new_ui
پیام | بارگیری KoboldAI به پایان رسیده است و در پیوند زیر برای KoboldAI Lite در دسترس است: https://claimed-g-jokes-undertaken.trycloudflare.com/lite
پیام | بارگیری KoboldAI به پایان رسیده است و در پیوند زیر برای API موجود است: https://claimed-g-jokes-undertaken.trycloudflare.com/api

رابط کاربری جدید هوش مصنوعی Kobold شما شبیه به مورد زیر است.

این همه چیز است، اکنون سرور Kobold AI خود را راه‌اندازی کرده‌اید.

پاکسازی فضای کاری Colab

هنگامی که آزمایشات خود را کامل کردید، برای صرفه جویی در منابع، باید Colab را پاکسازی کنید. لطفاً مراحل زیر را برای انجام پاکسازی دنبال کنید.

1. دکمه توقف (قبلاً دکمه پخش بود) را کلیک کنید تا سرور وب متوقف شود.
2. به Runtime بروید و روی قطع و حذف زمان اجرا کلیک کنید.

اکنون خوب هستید که بروید. اگر می‌خواهید دوباره راه‌اندازی کنید، می‌توانید همان تنظیماتی را که در بالا ذکر شد امتحان کنید.

نتیجه گیری

اکنون شما نحوه راه اندازی Kobold AI را در Google Colab به صورت رایگان با GPU Nvidia T4 Tesla یاد گرفته اید.