د انسان ذهن د اوږدې مودې لپاره نا معلوم او پراسرار پاتې دی. او داسې ښکاري چې ساینس پوهانو دې لیست ته یو نوی کاندید منلی دی - مصنوعي استخبارات (AI). په پیل کې، د AI په ذهن پوهیدل د آکسیمورونیک غږ دی. په هرصورت، لکه څنګه چې AI په تدریج سره ډیر حساس کیږي او د انسانانو او د دوی احساساتو سره د تقلید کولو ته نږدې کیږي، موږ د هغو پیښو شاهد یو چې د انسانانو او حیواناتو لپاره طبیعي دي - هیلوسینیشن.
هو، داسې ښکاري چې هغه سفر چې ذهن یې په صحرا کې پریښودل کیږي، په ټاپو کې پریښودل کیږي، یا په یوه خونه کې چې کړکۍ او دروازې نلري یوازې بند وي، د ماشینونو لخوا هم تجربه کیږي. د مصنوعي ذهانت وهم ریښتیا دی او د ټیکنالوژۍ متخصصینو او مینه والو ډیری مشاهدې او پایلې ثبت کړې دي.
په نننۍ مقاله کې، موږ به د لویو ژبو ماډلونو (LLMs) دا پراسرار خو په زړه پورې اړخ وپلټو او د AI وهم په اړه به عجیب حقایق زده کړو.
د AI هیلوسینیشن څه شی دی؟
د مصنوعي ذهانت په نړۍ کې، وهمونه په مبهم ډول نمونو، رنګونو، شکلونو، یا هغو خلکو ته اشاره نه کوي چې ذهن یې په روښانه ډول تصور کولی شي. پرځای یې، وهمونه غلط، نامناسب، یا حتی ګمراه کونکي حقایقو او ځوابونو ته اشاره کوي. د مصنوعي ذهانت تولیدونکي وسیلې د هڅونې سره راځي.
د مثال په توګه، تصور وکړئ چې د AI ماډل څخه پوښتنه وکړئ چې د هبل سپیس ټیلسکوپ څه شی دی او دا د ځواب سره ځواب پیل کوي لکه "IMAX کیمره یو ځانګړی، لوړ ریزولوشن عکس دی ...."
دا ځواب بې ارزښته دی. مګر تر ټولو مهم، ولې ماډل یو غبرګون رامینځته کړی چې د وړاندې شوي پرامپټ څخه په لنډ ډول توپیر لري؟ متخصصین په دې باور دي چې مغشوشیت د ډیری فکتورونو له امله رامینځته کیدی شي لکه:
- د AI روزنې معلوماتو ضعیف کیفیت
- ډیر باوري AI ماډلونه
- د طبیعي ژبې پروسس کولو (NLP) پروګرامونو پیچلتیا
- د کوډ کولو او کوډ کولو تېروتنې
- د AI ماډلونو مخالف بریدونه یا هیکونه
- د سرچینې انحراف
- د انپټ تعصب یا د ان پټ ابهام او نور ډیر څه
د AI هیلوسینیشن خورا خطرناک دی او شدت یې یوازې د دې د غوښتنلیک په زیاتوالي سره زیاتیږي.
د مثال په توګه، د GenAI یوه هوښیاره وسیله کولی شي د یوې تصدۍ لپاره چې دا ځای په ځای کړي شهرت زیانمن کړي. په هرصورت، کله چې ورته ورته AI ماډل د روغتیا پاملرنې په څیر سکتور کې ځای په ځای شي، دا د ژوند او مرګ ترمنځ مساوات بدلوي. دا تصور کړئ، که چیرې د AI ماډل د ناروغ د طبي امیجنگ راپورونو ډیټا تحلیل ته غبرګون رامینځته کړي او رامینځته کړي، دا کولی شي په ناڅاپه توګه د بې نظیر تومور وژونکي په توګه راپور ورکړي، چې په پایله کې د انفرادي تشخیص او درملنې کورس انحراف دی.
د AI هیلوسینیشن مثالونو پوهیدل
د AI هیلوسینشن مختلف ډولونه دي. راځئ چې ځینې خورا مشهور پوه شو.
په حقیقت کې د معلوماتو غلط ځواب
- غلط مثبت ځوابونه لکه په متن کې د سم ګرامر نښه کول د غلط په توګه
- غلط منفي ځوابونه لکه د ښکاره غلطیو څخه سترګې پټول او د ریښتیني په توګه یې لیږدول
- د غیر موجود حقایقو اختراع
- د حوالې غلط سرچینې یا لاسوهنه
- د غلط ځوابونو سره په ځواب ورکولو کې ډیر باور. بېلګه: چا سندرې ويل دلته لمر راځي؟ Metallica.
- د مفکورو، نومونو، ځایونو، یا پیښو مخلوط کول
- عجیب یا ډارونکي ځوابونه لکه د الیکسا مشهور شیطاني خودمختاري خندا او نور ډیر څه
د AI هیلوسینیشن مخنیوی
د مصنوعي ذهانت له لارې تولید شوي هر ډول غلط معلومات کشف او حل کیدی شي. دا د مصنوعي ذهانت سره د کار کولو ځانګړتیا ده. موږ دا اختراع کړی او موږ یې حل کولی شو. دلته ځینې لارې دي چې موږ یې کولی شو.
د ځوابونو محدودول
دوی وايي دا مهمه نده چې موږ په څو ژبو خبرې کوو. موږ باید پوه شو چې کله په دې ټولو کې خبرې بندې کړو. دا د AI ماډلونو او د دوی ځوابونو باندې هم پلي کیږي. په دې شرایطو کې، موږ کولی شو د ماډل وړتیا محدوده کړو چې یو ځانګړي حجم ته ځوابونه پیدا کړي او د عجیب پایلو سره د دې احتمال کم کړي. دې ته منظم کول ویل کیږي او په دې کې د AI ماډلونو ته د سختو او پراخو پایلو د رامینځته کولو لپاره جزا ورکول هم شامل دي.
د ځوابونو د استخراج او استخراج لپاره اړونده او هوا ضد سرچینې
کله چې موږ د AI ماډل روزنه کوو، موږ کولی شو هغه سرچینې هم محدود کړو چې ماډل یې راجع کولی شي او معلومات یې یوازې مشروع او معتبرو ته استخراج کړي. د مثال په توګه، د روغتیا پاملرنې AI ماډلونه لکه یو مثال چې موږ مخکې بحث وکړ یوازې هغه سرچینو ته راجع کیدی شي چې د طبي عکسونو او امیجنگ ټیکنالوژیو سره ډک شوي معلوماتو کې معتبر دي. دا ماشینونه د دوه قطبي سرچینو څخه د نمونو موندلو او همغږي کولو مخه نیسي او غبرګون رامینځته کوي.
د AI ماډل هدف تعریف کول
د AI ماډلونه ګړندي زده کونکي دي او دوی ته اړتیا لري چې دقیقا ورته وویل شي چې دوی باید څه وکړي. د موډلونو هدف په سمه توګه تعریف کولو سره، موږ کولی شو موډلونه وروزو ترڅو د دوی په خپلو وړتیاوو او محدودیتونو پوه شي. دا به دوی ته اجازه ورکړي چې په خپلواکه توګه خپل ځوابونه د کارونکي اشارو او د دوی هدف د پاکو پایلو وړاندې کولو لپاره د تولید شوي ځوابونو په ترتیب کولو سره تایید کړي.
په AI کې بشري نظارت
د AI سیسټمونو روزنه د لومړي ځل لپاره د ماشوم لامبو یا سایکل چلولو په څیر خورا مهم دي. دا د بالغ څارنې، اعتدال، مداخلې، او لاس نیولو ته اړتیا لري. د AI ډیری هیلوسینیشنونه د AI پراختیا په بیلابیلو مرحلو کې د انسان د غفلت له امله رامینځته کیږي. د سمو متخصصینو په ګمارلو او د AI ځوابونو تایید او ارزونې لپاره د انسان دننه د کار فلو ډاډ ترلاسه کولو سره ، کیفیت پایلې ترلاسه کیدی شي. سربیره پردې، ماډلونه د دقت او دقت لپاره نور هم ښه کیدی شي.
شپیپ او زموږ رول د AI هیلوسینیشن مخنیوي کې
د وهمونو یوه بله لویه سرچینه د مصنوعي ذهانت د روزنې ضعیف معلومات دي. هغه څه چې تاسو یې خورئ هغه څه دي چې تاسو یې ترلاسه کوئ. له همدې امله شایپ ستاسو د تولیدي مصنوعي ذهانت د روزنې اړتیاو لپاره د لوړ کیفیت معلوماتو رسولو ډاډ ترلاسه کولو لپاره فعال ګامونه پورته کوي.
زموږ د کیفیت د تضمین سخت پروتوکولونه او له اخلاقي پلوه سرچینه شوي ډیټاسیټونه ستاسو د مصنوعي ذهانت لیدونو لپاره د پاکو پایلو په رسولو کې مثالي دي. پداسې حال کې چې تخنیکي ستونزې حل کیدی شي، دا خورا مهمه ده چې د روزنې معلوماتو کیفیت په اړه اندیښنې د دوی په بنسټیزو کچو کې حل شي ترڅو د ماډل پراختیا باندې له سره کار کولو مخه ونیول شي. له همدې امله ستاسو د مصنوعي ذهانت او LLM روزنې مرحله باید د شایپ څخه د معلوماتو سیټونو سره پیل شي.
