هلوسة الذكاء الاصطناعي

ما المقصود بالهلوسة؟

تُعرّف ظاهرة «هلوسة الذكاء الاصطناعي» بأنها ميل النماذج اللغوية إلى إنتاج محتوى يبدو موثوقًا من الناحية اللغوية لكنه في الواقع غير صحيح أو مُختلق بالكامل. وتظهر هذه الظاهرة بوضوح عندما تُدرج المراجع أو الروابط التي لا وجود لها، أو تُستشهد بصفحات لا علاقة لها بالموضوع المطروح. وتعود جذور هذه المشكلة أساسًا إلى نقص البيانات القابلة للتحقق التي يمكن للنموذج الرجوع إليها أثناء توليد النصوص. يمكن تلخيص خصائص الهلوسة في النقاط التالية:

توليد معلومات تبدو دقيقة لغويًا لكنها كاذبة أو مختلقة، مثل إسناد نص إلى مصدر غير موجود.^{11هلوسة الذكاء الاصطناعي: ما هي وكيف نحدّ منها؟contentwriter.aeاذهب إلى المرجع ↓يُفتح في تبويب جديد}
اختلاق مراجع وهمية أو روابط URL غير موجودة، مما يخلق انطباعًا زائفًا بالموثوقية.^{22ترجمة الذكاء الاصطناعي متهمة بإغراق محتوى ويكيبيديا بالهلوسة | إعلام | الجزيرة نتaljazeera.netاذهب إلى المرجع ↓يُفتح في تبويب جديد}^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
تقديم حقائق خاطئة على أنها صحيحة دون أي فحص للمصدر، وهو ما يحدث عندما يكتفي النموذج بتوقع كلمات منطقية بدلًا من التحقق من صحة المعلومات.^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

لماذا تحدث

تتعدد العوامل التي تجعل نماذج الذكاء الاصطناعي تُنتج معلومات غير صحيحة بثقة. من أبرزها:

الاعتماد على الأشخاص المكلفين بتدريب النماذج الذين يوكّلون عملهم إلى الذكاء الاصطناعي نفسه، ما قد يقلل من التدقيق البشري.^{44من أسباب هلوسة الذكاء الاصطناعي: الأشخاص المكلفون بتدريبه يعهدون بعملهم إليه | إم آي تي تكنولوجي ريفيوmittrarabia.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
نقص بيانات تدريب كافية يمنع النموذج من بناء تمثيل شامل ودقيق للواقع.^{55ما هي هلوسة الذكاء الاصطناعي؟me.kaspersky.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
غياب السياق الواقعي داخل النموذج، مثل الخصائص الفيزيائية أو المعلومات الأوسع ذات الصلة، يحد من قدرته على ربط المخرجات بالحقائق.^{55ما هي هلوسة الذكاء الاصطناعي؟me.kaspersky.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
تدريب الأنظمة على بيانات غير دقيقة أو متناقضة يجعلها تعتمد على الارتباطات الإحصائية بدلًا من الفهم العميق.^{66ما أسباب تفاقم هلوسة الذكاء الاصطناعي بعد كل تحديث؟snabusiness.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
القيود التقنية وصعوبة فهم مهندسي الذكاء الاصطناعي لآليات اتخاذ القرار تزيد من فرص حدوث الأخطاء.^{66ما أسباب تفاقم هلوسة الذكاء الاصطناعي بعد كل تحديث؟snabusiness.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
طبيعة التنبؤ بالرمز التالي تجعل النموذج يفضّل توليد سلاسل من الأنماط المتعلمة على التحقق من صحة كل عبارة، ما يولد ما يُسمى بالهلوسة.^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
رغم أن تقنيات مثل التعلم من ملاحظات البشر أو الاسترجاع المعزز (RAG) تقلل من الظاهرة، إلا أن النماذج الأكبر قد تظل واثقة في أخطائها.^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

أمثلة على أنواعها

تتعدد مظاهر هلوسة الذكاء الاصطناعي بحسب المجال الذي تُستَخدم فيه النماذج، وفيما يلي أمثلة توضح أبرز الأنواع:

الهلوسة الواقعية (Factual Hallucination) تُدخل معلومات خاطئة عن أحداث أو أشخاص أو إحصاءات حقيقية، وتُعدّ الأكثر شيوعًا وخطورةً.^{7720 تقنية في هندسة الأوامر للحد من هلوسة الذكاء الاصطناعي وتحسين الدقة (دليل 2026)kabshotech.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
الادعاءات الفلكية الخاطئة؛ مثال على ذلك ادعاء روبوت المحادثة Bard أن تلسكوب جيمس ويب التقط أول صورة لكوكب خارج مجموعتنا الشمسية، وهو ما لا صحة له.^{88ما هي هلاوس الذكاء الاصطناعي؟ | IBMibm.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
الهلوسة الطبية؛ قد يخطئ نموذج الذكاء الاصطناعي في تشخيص ورم جلدي حميد على أنه خبيث، ما يؤدي إلى تدخلات طبية غير ضرورية.^{88ما هي هلاوس الذكاء الاصطناعي؟ | IBMibm.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
نشر المعلومات المضللة عبر روبوتات الأخبار؛ عندما تُجيب الروبوتات على استفسارات طارئة بمعلومات غير مُتحقَّق منها، ينتشر الخطأ بسرعة ويعرقل جهود التخفيف من الأضرار.^{88ما هي هلاوس الذكاء الاصطناعي؟ | IBMibm.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
الاختلاق التفصيلي عن شخصيات حقيقية؛ مثال على ذلك سؤال مستخدم عن إنجازات عالم فيزياء، فأورد النموذج جائزة غير مُنحت له وبحثًا غير منشور مع تفاصيل دقيقة، وهو ما يُعرف بـ«شات جي بي تي بيألف».^{7720 تقنية في هندسة الأوامر للحد من هلوسة الذكاء الاصطناعي وتحسين الدقة (دليل 2026)kabshotech.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

كيف تكتشفها

تُعَدُّ عملية اكتشاف هلوسة الذكاء الاصطناعي خطوة أساسية لتقليل الأخطاء التي قد تنتج عن النماذج اللغوية الكبيرة، وقد اقترح باحثون بجامعة أكسفورد منهجية جديدة مخصصة لهذا الغرض، مستندين إلى فكرة أن ما يُسمّى «هلوسة» لا يعكس خبرة ذاتية للنماذج بل هو نتاج لثغرات في تمثيل المعرفة.^{99باحثون بجامعة أكسفورد يقترحون منهجية جديدة لاكتشاف "هلوسة" الذكاء الاصطناعي | تكنولوجيا | الجزيرة نتaljazeera.netاذهب إلى المرجع ↓يُفتح في تبويب جديد}

تتطلب عملية الاكتشاف فهمًا دقيقًا لتنوع الأنواع التي قد تظهر؛ فهناك هلوسة واقعية (Factual Hallucination) تتعلق ببيانات غير صحيحة، وهلوسة منطقية تتعلق بأخطاء في الاستدلال، بالإضافة إلى هلوسة المحتوى التوليدي غير النصي (Fabricated Data) التي تُنتج بيانات غير موجودة أصلًا.^{7720 تقنية في هندسة الأوامر للحد من هلوسة الذكاء الاصطناعي وتحسين الدقة (دليل 2026)kabshotech.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

لتطبيق هذا الفهم عمليًا، يمكن الاعتماد على أدوات متخصصة مثل TestSprite التي تتيح اكتشاف هلوسات نماذج اللغة الكبيرة تلقائيًا، وتمنعها عبر مراقبة مسارات الاسترجاع المعزز (RAG) واستدعاءات أدوات الوكلاء داخل بيئة التطوير المتكاملة (IDE) مع توفير اختبارات سحابية آمنة وقابلة للإصلاح الذاتي.^{1010أداة اختبار هلوسة الذكاء الاصطناعي | TestSpritetestsprite.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

تصنيف الأنواع الثلاثة للهلوسة لتحديد الاستراتيجية الأنسب للكشف عنها.^{7720 تقنية في هندسة الأوامر للحد من هلوسة الذكاء الاصطناعي وتحسين الدقة (دليل 2026)kabshotech.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
استعمال منهجية أكسفورد المقترحة لتحديد مؤشرات هلوسة محتملة في مخرجات النموذج.^{99باحثون بجامعة أكسفورد يقترحون منهجية جديدة لاكتشاف "هلوسة" الذكاء الاصطناعي | تكنولوجيا | الجزيرة نتaljazeera.netاذهب إلى المرجع ↓يُفتح في تبويب جديد}
تشغيل أداة TestSprite لمراقبة واختبار النماذج تلقائيًا داخل بيئة التطوير، مع الاستفادة من تكامل MCP ومسارات RAG لتقليل الأخطاء.^{1010أداة اختبار هلوسة الذكاء الاصطناعي | TestSpritetestsprite.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

طرق الحد منها

تتعدد الأساليب التي يُستحدثها الباحثون والشركات للحد من ظاهرة هلوسة الذكاء الاصطناعي، وتُركّز على توجيه استجابات النماذج أو كشف الأخطاء قبل نشرها. أولًا، تُستغل هندسة الأوامر (Prompt Engineering) كوسيلة لتوجيه النموذج نحو إجابات أكثر موثوقية، إلا أن بعض التطبيقات تُستَغل كحيل تسويقية لا تُعَد حلًا جذريًا للمشكلة. ثانيًا، يُعتمد على أساليب كشف الهلوسة؛ فقد طوّر باحثون من جامعة محمد بن زايد للذكاء الاصطناعي طريقة جديدة لتحديد الأخطاء في النماذج اللغوية الكبيرة، ما يفتح آفاقًا لتطوير نماذج أكثر دقة . ثالثًا، تُقدِّم الخدمات السحابية أدوات مخصصة؛ فمثلًا أطلقت أمازون ويب سيرفيسز (AWS) أداة مخصصة لمعالجة الإجابات غير الموثوقة التي تُنتجها النماذج. وأخيرًا، يُستهدف النوع الأكثر شيوعًا وخطورةً من الهلوسة، وهو الهلوسة الواقعية (Factual Hallucination)، لتقليل الأخطاء المتعلقة بالأحداث أو الأشخاص أو الإحصاءات .

توجيه استجابة النموذج عبر إضافة تعليمات إضافية في الطلب (Prompt Engineering)؛ رغم أنها تُستَغل أحيانًا كحيلة تسويقية.
تطوير خوارزميات كشف الهلوسة في النماذج اللغوية الكبيرة، ما يُسهم في تحسين موثوقية النتائج.
اعتماد أدوات سحابية مثل أداة AWS الجديدة التي تُعالج الحالات التي تقدم فيها النماذج إجابات غير موثوقة .
التركيز على الحد من الهلوسة الواقعية، نظرًا لخطورتها وانتشارها الواسع .

كيف تتحقق من الإجابات

تُعَدُّ عملية التحقق من إجابات نماذج الذكاء الاصطناعي خطوة أساسية لتقليل تأثير الهلوسة وضمان موثوقية المحتوى. فالمراقبة المستمرة للنموذج تُسهم في الحفاظ على دقته وملاءمته مع مرور الوقت، خاصةً في ظل احتمال توليد معلومات غير دقيقة أو غير ذات صلة نتيجة تغير البيانات والسياقات.^{1111ما هو الذكاء الاصطناعي للمؤسسات؟ - شرح الذكاء الاصطناعي للمؤسسات‏ - AWSaws.amazon.comاذهب إلى المرجع ↓يُفتح في تبويب جديد} كما أن التطورات الحديثة وفرت أدوات تساعد على كشف الأخطاء وتحسين جودة النصوص المنتجة، ما يُظهر إمكانية تحسين عملية التحقق مع استمرار البحث والتطوير.^{1212هلوسة الذكاء الاصطناعي .. هل هناك حل نهائي لها؟aitnews.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

من بين الأساليب الفعّالة للتحقق ما يلي:

فحص المراجع والروابط التي يذكرها النموذج للتأكد من وجودها وصحتها، إذ إن توليد استشهادات أو عناوين URL غير موجودة يُعدّ علامة على الهلوسة.^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
الاستعانة بآليات الاسترجاع والبحث (RAG) التي تُدمج أدلة حديثة مع توليد النص، مما يقلل حدوث الهلوسة بنسبة تتراوح بين 73 % و86 % وفقًا لبعض المعايير.^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
مقارنة المخرجات مع مصادر موثوقة أو قواعد بيانات معتمدة لتحديد ما إذا كانت المعلومات مدعومة بأدلة فعلية أم لا.^{1212هلوسة الذكاء الاصطناعي .. هل هناك حل نهائي لها؟aitnews.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}^{33هلوسات الذكاء الاصطناعيpatrickstox.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}
مراقبة سلوك النموذج على المدى الطويل لتحديد أي انحراف في الدقة أو الصلة، حيث يمكن أن تصبح المخرجات غير ذات صلة مع تطور البيانات.^{1111ما هو الذكاء الاصطناعي للمؤسسات؟ - شرح الذكاء الاصطناعي للمؤسسات‏ - AWSaws.amazon.comاذهب إلى المرجع ↓يُفتح في تبويب جديد}

بتطبيق هذه الإجراءات يمكن للمستخدمين والمؤسسات تعزيز موثوقية النماذج وتقليل مخاطر الاعتماد على معلومات غير صحيحة.