ښایسته تونل

تعریف

ښه سمون د کوچنیو، ډومین ځانګړو ډیټاسیټونو په اړه د اضافي روزنې په کارولو سره د مخکې روزل شوي ماشین زده کړې ماډل د نوي کار سره د تطبیق پروسه ده.

هدف

موخه دا ده چې د لویو ماډلونو څخه پوهه بیا وکارول شي او په لږو سرچینو سره په ځانګړو دندو کې فعالیت ښه شي.

اهمیت

• د روزنې لګښت او وخت د پیل څخه د ماډلونو جوړولو په پرتله کموي.
• د ډومین ځانګړو دندو کې فعالیت ښه کوي.
• که چیرې د روزنې معلومات ډیر محدود وي نو د ډیر فټ کیدو خطرونه.
• د زده کړې د لیږد سره تړاو لري.

څنګه کار کوي

1. مخکې له مخکې روزل شوی اساس ماډل غوره کړئ.
2. د دندې پورې اړوند پرتونه بدل کړئ یا تنظیم کړئ.
3. د نوي ډومین څخه د لیبل شوي معلوماتو سره روزنه ورکړئ.
4. د زده کړې کچه تنظیم کړئ ترڅو زاړه او نوي پوهه متوازن کړئ.
5. د عمومي کولو لپاره تایید او ازموینه وکړئ.

مثالونه (حقیقي نړۍ)

• BERT د احساساتو تحلیل لپاره ښه تنظیم شوی.
• د GPT ماډلونه د پیرودونکو ملاتړ چیټ بوټونو لپاره ښه تنظیم شوي.
• د طبي انځورونو طبقه بندي لپاره د لید ماډلونه ښه تنظیم شوي.

حوالې / نور لوستل

• هاورډ او روډر. "د ژبې د نړیوالې ماډل ښه والی" (ULMFiT). ACL ۲۰۱۸.
• د غېږې ورکولو د مخ ټرانسفارمرونو اسناد.
• پان او یانګ "د لیږد زده کړې په اړه یوه سروې." IEEE TKDE.
• د لویو ژبو ماډلونو لپاره ښه تنظیم څه شی دی؟ – شیپ