هلوسة الذكاء الاصطناعي: لماذا تحدث، وكيف تكتشفها قبل أن تكلّفك ثمنًا

طلبت مرجعًا علميًا، فأعطاك النموذج اسم بحث ومؤلفًا وسنة نشر... ولا شيء من هذا موجود فعليًا. هذه ليست حالة نادرة، بل ظاهرة معروفة تسمى "الهلوسة"، وتحدث لأن النموذج ببساطة لا يعرف الفرق بين ما يتذكره بدقة وما يخمّنه بثقة.

لماذا تحدث الهلوسة أصلًا؟

النموذج لا يبحث في قاعدة بيانات ويعيد نتيجة دقيقة؛ هو يتنبأ بالكلمة التالية الأكثر احتمالًا بناءً على أنماط تعلّمها من كميات هائلة من النصوص. حين يُسأل عن معلومة لا يملك بيانات كافية عنها، لا يقول "لا أعرف" بشكل افتراضي، بل يواصل توليد نص يبدو منطقيًا لغويًا، حتى لو كان خاطئًا موضوعيًا. النتيجة تبدو واثقة ومنسّقة تمامًا، وهذا بالضبط ما يجعلها خطيرة.

الذكاء الاصطناعي لا يكذب عمدًا، لكنه أيضًا لا يعرف حين يكون مخطئًا.

أكثر أنواع الهلوسة شيوعًا

مراجع ومصادر وهمية (أبحاث، كتب، مقالات لا وجود لها). أرقام وإحصائيات دقيقة الشكل لكنها مختلقة. اقتباسات منسوبة لأشخاص حقيقيين لم يقولوها أبدًا. تفاصيل تاريخية أو قانونية مدمجة بثقة مع معلومات صحيحة، ما يجعل فصل الصحيح عن الخاطئ أصعب.

كيف تكتشفها قبل أن تعتمد عليها

اشتبه فورًا في أي رقم، تاريخ، اسم، أو رابط دقيق جدًا لم تطلبه من مصدر تستطيع التحقق منه. اطلب من النموذج نفسه ذكر مصدر المعلومة، ثم تحقق من وجود ذلك المصدر فعليًا بنفسك بدل الثقة بالإجابة عن الإجابة. النماذج المزوّدة بميزة البحث في الويب أقل عرضة للهلوسة في الحقائق الحديثة تحديدًا، لأنها تستند إلى صفحات حقيقية بدل الاعتماد على الذاكرة وحدها.

قبل أن تجيب، إن لم تكن متأكدًا تمامًا من دقة معلومة معينة (رقم، تاريخ، اسم، مصدر)، صرّح بذلك بوضوح بدلًا من تقديمها بثقة كاملة. اذكر مستوى ثقتك في كل معلومة حساسة.

متى يكون الخطر أعلى؟

الخطر يرتفع بشكل كبير في المجالات القانونية، الطبية، المالية، والأكاديمية، حيث تُستخدم النتيجة مباشرة في قرار حقيقي. في هذه الحالات، اعتبر أي إجابة من الذكاء الاصطناعي نقطة انطلاق للبحث، لا نتيجة نهائية جاهزة للاستخدام.

الخلاصة

الهلوسة ليست علامة على أداة سيئة، بل خاصية متأصلة في طريقة عمل نماذج اللغة الحالية. لن تختفي بترقية تطبيق أو نسخة أحدث؛ ما يختفي هو خطرها عليك، حين تبني عادة التحقق قبل الاعتماد.