د انسان په لاس کې

تعریف

انسان-په-لوپ (HITL) هغه سیسټمونو ته اشاره کوي چیرې چې د انسان قضاوت د روزنې، ارزونې، یا پریکړې کولو په څیر دندو لپاره د AI کاري فلو سره مدغم کیږي.

هدف

موخه دا ده چې د انسان تخصص د مصنوعي ذهانت موثریت سره یوځای شي. دا په حساسو غوښتنلیکونو کې کیفیت، اخلاقي نظارت او خوندیتوب ډاډمن کوي.

اهمیت

• په لوړ خطر لرونکو برخو کې غلطۍ کموي (د مثال په توګه، روغتیا پاملرنه، دفاع).
• د انساني فیډبیک له لارې روزنه ښه کوي.
• په اتوماتیک سیسټمونو کې حساب ورکول چمتو کوي.
• د بشپړ اتومات کولو په پرتله ورو او ګران.

څنګه کار کوي

1. هغه ساحې تعریف کړئ چیرې چې انساني څارنې ته اړتیا وي.
2. د مصنوعي ذهانت پایلې یا وړاندیزونه راټول کړئ.
3. انسانان تاییدوي، سموي، یا نظر ورکوي.
4. فیډبیک د ماډلونو د بیا روزنې یا اصلاح کولو لپاره مدغم شوی دی.
5. د دوامداره انساني بیاکتنې سره د سیسټم فعالیت وڅارئ.

مثالونه (حقیقي نړۍ)

• د منځپانګې اعتدال: انسانان د AI څخه بیرغ شوي پوسټونه بیاکتنه کوي.
• طبي مصنوعي ذهانت: ډاکټران د مصنوعي ذهانت له لارې تولید شوي تشخیصونه تاییدوي.
• د بشري فیډبیک څخه د پیاوړتیا زده کړه (RLHF): د ChatGPT په څیر د ژبې ماډلونه روزي.

حوالې / نور لوستل

• امرشي او نور. "خلکو ته ځواک: د متقابل ماشین زده کړې کې د انسانانو رول." د مصنوعي ذهانت مجله.
• د NIST AI د خطر مدیریت چوکاټ.
• د انسان په دننه کې د سیسټمونو لپاره د IEEE معیارونه.
• د انسان په دننه کې پوهیدل