راهنمای کامل fine-tuning مدل‌های متن‌باز فارسی

آماده‌سازی داده

پیش از شروع fine-tuning، کیفیت داده آموزشی فارسی نقش تعیین‌کننده‌ای دارد. داده باید پاک‌سازی و متعادل شود.

const dataset = loadDataset("fa-corpus-v2");
dataset.clean().balance();

در گام بعد، مدل پایه را با نرخ یادگیری پایین تنظیم می‌کنیم تا از فراموشی فاجعه‌بار جلوگیری شود.