دروغجنه

تعریف

په مصنوعي ذهانت کې، وهم هغه مواردو ته اشاره کوي چیرې چې یو ماډل داسې محصولات تولیدوي چې روان وي مګر په حقیقت کې غلط یا بې معنی وي. دا په ځانګړي توګه د لویو ژبو ماډلونو او تولیدي مصنوعي ذهانت کې عام دی.

هدف

د وهمونو مطالعه د ماډل اعتبار او خوندیتوب ښه کولو کې مرسته کوي. دا پراختیا کونکو ته اجازه ورکوي چې د ناسمو پایلو کشف او کمولو لپاره محافظتي تدابیر ډیزاین کړي.

اهمیت

• که چیرې پاملرنه ونه شي، په مصنوعي ذهانت باور کموي.
• په حساسو غوښتنلیکونو لکه روغتیا پاملرنې یا قانون کې زیان رسولی شي.
• د اوسني تولیدي ماډلونو محدودیتونه روښانه کوي.
• د حقیقي اساساتو او بیا ترلاسه کولو میتودونو په اړه څیړنه پرمخ وړي.

څنګه کار کوي

1. ماډل یو پرامپټ یا پوښتنه ترلاسه کوي.
2. د زده شویو نمونو پر بنسټ محصول تولیدوي، نه د حقیقت تصدیق پر بنسټ.
3. ممکن د باور وړ خو غلطې پایلې تولید کړي.
4. د کشف او سمون تخنیکونه کارول کیږي (د مثال په توګه، RAG).

مثالونه (حقیقي نړۍ)

• چیټ جی پي ټي کله ناکله د غوښتنې په صورت کې غلط حقایق وړاندې کوي.
• د ګوګل بارډ لومړني ډیمو کې حقیقي غلطۍ ښودل شوې.
• د مصنوعي ذهانت له لارې تولید شوې طبي مشورې ځینې وختونه ناسمې وي.

حوالې / نور لوستل

• "په لویو ژبو ماډلونو کې د وهمونو کمول" - د arXiv مخکې چاپ.
• د NIST AI د خطر مدیریت چوکاټ.
• میچل او نور. "د ماډل راپور ورکولو لپاره ماډل کارتونه." ACM FAccT.
• د AI Halucinations لاملونه