🧪 آزمایشگاه پرامپت
مدل روی سرور Hugging Face اجرا میشود. پیام خود را در کادر زیر بنویسید و ارسال کنید.
آمادهٔ گفتگو؛ تنظیم system prompt اختیاری است.
پرامپت تا زمان اعمال تغییر یا پاک کردن در همین نشست باقی می‌ماند. تغییر پیش‌نویس به‌تنهایی اثری ندارد.
Temperature صفر: نمونه‌گیری خاموش است و Top-P استفاده نمی‌شود. برای سنجش اثر پارامترها هر بار یکی را تغییر دهید.
در هر Space یک مدل بارگذاری میشود. برای مدل دیگر Space مربوط به آن را باز کنید. حالت thinking برای این تمرین‌ها خاموش است. اجرا از سهمیهٔ روزانهٔ ZeroGPU حساب شما استفاده میکند.
لاگ سرور با راه‌اندازی دوبارهٔ Space پاک میشود؛ پیش از آن خروجی بگیرید.
۱. اثر پرامپت سیستم
اعمال کنید: «فقط در یک جمله فارسی جواب بده». یک سؤال بپرسید. پیش‌نویس را تغییر دهید و بدون اعمال دوباره سؤال کنید؛ سپس اعمال کنید و تفاوت را ببینید.
۲. حافظهٔ مکالمه
نامی ساختگی به مدل بگویید و در پیام بعد بپرسید چه نامی گفته‌اید. درخواست واقعی را ببینید؛ تاریخچه دوباره به مدل فرستاده میشود.
۳. نمونه‌گیری
یک درخواست خلاقانه را با Temperature صفر و ۱٫۲ اجرا کنید. پیش از هر اجرا گفتگو را پاک کنید و متن و سایر پارامترها را ثابت نگه دارید. دو اجرای آخر را مقایسه کنید.
۴. اندازهٔ مدل
دو Space مربوط به Gemma 4 E2B و Qwen3.5 2B را با متن و تنظیمات یکسان امتحان کنید. پیش از هر اجرا گفتگو را پاک کنید. کیفیت، تعداد توکن و زمان را مقایسه کنید و لاگ هر Space را جداگانه دریافت کنید.
تبدیل متن به بردار و بازیابی معنایی
امبدینگ هر متن را به یک بردار عددی تبدیل میکند. اینجا مدل چندزبانهٔ intfloat/multilingual-e5-small متنهای فارسی را روی CPU سرور پردازش میکند. بردارهای نرمال شده با شباهت کسینوسی مقایسه میشوند؛ امتیاز بزرگ‌تر یعنی نزدیکی بیشتر در این مدل، نه احتمال درست بودن پاسخ.
مسیر آزمایش: متن ← قطعه ها ← امبدینگ قطعه ها و سوال ← شباهت ← Top-K.
پیشوند سؤال query: و متن passage: است. اطلاعات بردار سؤال را در خروجی ببینید؛ همه ابعاد برای رتبه‌بندی استفاده میشوند. این آزمایش جستجوی دقیق روی مجموعه ای کوچک است؛ پایگاه داده برداری جداگانه لازم ندارد.
تمرین: عبارت «بازیابی حساب» را با «رمزم را یادم رفته» مقایسه کنید. یک پاراگراف نامرتبط اضافه کنید. Top-K و اندازهٔ قطعه را تغییر دهید و بررسی کنید کدام قطعه برای پاسخ لازم است.
اولین اجرا مدل امبدینگ را فقط روی سرور دانلود می کند و ممکن است طول بکشد. حداکثر ۳۰ هزار کاراکتر و ۱۰۰ قطعه؛ قطعه‌های بیش از ۵۱۲ توکن با خطای روشن رد می شوند.
جستجو بر اساس واژه ها
BM25 به هم پوشانی واژه‌های سوال و متن امتیاز می دهد. TF تعداد تکرار واژه در یک قطعه و DF تعداد قطعه های دارای آن واژه است. واژه های کمیابتر وزن IDF بیشتری دارند. این روش بدون مدل و روی CPU اجرا میشود.
k1 اثر تکرار واژه و سرعت اشباع آن را تنظیم میکند؛ b اثر طول قطعه را تنظیم می کند. وقتی b صفر است طول قطعه اثری ندارد. این نسخه حروف ی/ک و نیم فاصله را یکسان سازی میکند، اما ریشه یابی یا تشخیص مترادف ندارد. واژه تکراری سؤال یک‌بار حساب میشود. امتیاز صفر یعنی هیچ واژه مشترکی پیدا نشده است.
فرمول آموزشی هر واژه: IDF × TF × (k1+1) / (TF + k1 × (1-b+b×length/avg_length))، با IDF = ln(1+(N-DF+0.5)/(DF+0.5)).
تمرین: «بازیابی حساب» و «رمزم را یادم رفته» را مقایسه کنید. واژهٔ حساب را چند بار به یک متن اضافه کنید؛ سپس k1 را تغییر دهید. یک قطعه را با متن نامرتبط طولانی کنید و b را صفر و یک قرار دهید. جدول سهم واژه ها دلیل تغییر امتیاز را نشان میدهد.
پاسخگویی با منابع بازیابی شده
RAG یعنی ابتدا قطعه های مرتبط را پیدا کنیم، سپس آن ها را همراه سوال به مدل بدهیم. اینجا مدل گفتگو در همین Space پاسخ میدهد. مدل با متن منبع آموزش مجدد نمی بیند؛ قطعه ها داخل درخواست قرار میگیرند.
۱. متن و سوال را وارد کنید و روش بازیابی را انتخاب کنید. ۲. بازیابی را اجرا کنید و قطعه ها و درخواست را بررسی کنید. ۳. تولید پاسخ را بزنید و ارجاع های [S1] را با متن قطعه ها تطبیق دهید.
تمرین: بپرسید «آزمایش رایگان چند روز است؟». سپس بپرسید «قیمت اشتراک سالانه چقدر است؟» که در متن نیست. قطعه لازم را حذف کنید یا Top-K را کم کنید؛ آیا پاسخ همچنان به منبع متکی است؟ BM25 و برداری را با سوال مترادف مقایسه کنید. امتیازهای این دو روش مقیاس یکسان ندارند.
وجود ارجاع صحت پاسخ را تضمین نمی‌کند؛ خودتان تطبیق دهید. بعد از تغییر متن یا سؤال، دوباره بازیابی کنید. تولید پاسخ از آخرین بازیابی استفاده میکند و لاگ آن در تب لاگ همین نشست ثبت میشود. حد ورودی مدل گفتگو همچنان ۳۰۷۲ توکن است.
ابتدا بازیابی را اجرا کنید.