هلوسة الذكاء الاصطناعي: ما هي وكيف نحدّ منها؟

ما هلوسة الذكاء الاصطناعي؟

على سبيل المثال، إذا طلبنا من الذكاء الاصطناعي أرقام السجل التجاري لـ20 شركة في دبي تتزايد إيراداتها، فقد نحصل على قائمة تبدو منطقية ومكتملة، لكن جميع الأرقام الواردة فيها قد تكون مختلقة.

ما يميز الهلوسة هو هذا المظهر المنطقي: تبدو الإجابة مقنعة، ولا يُظهر الذكاء الاصطناعي أي شك. ولهذا تُذكّر واجهات النماذج اللغوية المستخدمين بضرورة التحقق من الأرقام والحقائق التي توردها.

لماذا تحدث هلوسة الذكاء الاصطناعي؟

تظهر الهلوسة عادةً في ثلاث حالات:

• غياب البيانات، وهو السبب الرئيسي، فيلجأ النموذج إلى التخمين؛
• غموض الطلب، فيملأ النموذج الفراغات بنفسه؛
• تعقيد المهمة المفرط، فيحاول النموذج إنجاز كل شيء دفعة واحدة.

لا تتعلق المشكلة بالنماذج اللغوية وحدها، بل بوصولها إلى البيانات أيضًا. فالهلوسة ليست ظاهرة عشوائية خارجة تمامًا عن السيطرة؛ بل تنشأ عن ظروف محددة يمكن معالجتها.

كيف نحدّ من هلوسة الذكاء الاصطناعي؟

يمكن الحدّ من الهلوسة بإتاحة وصول مباشر ومنظّم إلى البيانات. ففي هذه البيئة، تصبح النماذج اللغوية أقدر على تفسير المعلومات واتخاذ القرارات واستخلاص النتائج.

وتقوم الطرق الثلاث التالية على هذا المبدأ، ويمكن اختيار الأنسب منها بحسب مستوى الخبرة والمتطلبات.

إعداد ملف بيانات

توفير بيانات جاهزة هو أبسط طريقة لمعالجة المشكلة عمليًا، لأنه يضيّق المجال أمام الذكاء الاصطناعي لاختلاق التفاصيل.

كثيرًا ما يتعامل المبتدئون مع النموذج اللغوي كما لو كان محرك بحث وأداة لاستخراج البيانات وتحويلها وتحميلها (ETL) ونظامًا لجمع بيانات المواقع، كل ذلك في وقت واحد. لكن إذا تطلّبت المهمة جمع البيانات وتنظيفها وتوحيدها، فقد يتجاوز حجم المعلومات نافذة السياق، ما يرفع خطر الهلوسة بدرجة كبيرة.

لذلك، من الأفضل تقسيم جمع البيانات إلى عدة طلبات أصغر، مع التحقق باستمرار من صحة ما يقدمه الذكاء الاصطناعي. قد يبدو ذلك مملًا ويستغرق وقتًا، لكنه يبني أساسًا متينًا يتيح للنماذج اللغوية إظهار قيمتها الحقيقية: العمل على بيانات متاحة وموثوقة.

استخدام واجهة برمجة التطبيقات (API)

يُعدّ الربط بواجهة برمجة التطبيقات حلًا أكثر تقدمًا؛ إذ يوفر وصولًا أسرع إلى البيانات على نطاق أوسع، مع إبقائها محدّثة. فإذا كان إعداد ملف بيانات يشبه تقديم دلو من الماء، فإن إتاحة واجهة برمجة التطبيقات تشبه فتح الصنبور.

لا يختلف البحث الذي تستخدمه أدوات مثل ChatGPT وClaude وGemini كثيرًا عن البحث الذي يجريه الإنسان. إذ تطّلع النماذج اللغوية على محتوى مواقع خارجية، مثل Reddit وWikipedia، ثم تعود بإجابة.

لكن هذه الطريقة لا تضمن صحة المحتوى أو حداثته. فتعدد المصادر يعني تفاوتًا في معايير عرض البيانات وتواريخها، فضلًا عن احتمال احتوائها على أخطاء بشرية أو آراء شخصية. وتعالج واجهة برمجة التطبيقات هذه النقطة بتوفير مصدر ثابت وقابل للاستعلام آليًا، يقدّم بيانات منظّمة ومنقّحة.

على سبيل المثال، تتيح واجهة Monitly الوصول إلى إحصاءات من أنحاء العالم عبر اتصال مباشر بمصادر تشمل المكتب الوطني للإحصاء وEurostat والبنك الدولي ومنظمة الصحة العالمية وصندوق النقد الدولي، وغيرها. وهكذا، بدلًا من البحث في مواقع متفرقة، يستطيع الذكاء الاصطناعي إرسال طلب مباشر إلى الواجهة والحصول على أحدث نتيجة، ما يسهّل تحليل البيانات وتفسيرها.

الربط عبر MCP

يتيح ربط الذكاء الاصطناعي ببروتوكول سياق النموذج MCP (Model Context Protocol) للنماذج اللغوية الوصول المباشر إلى الملفات وجداول البيانات والشيفرات البرمجية والتطبيقات. ويقلل ذلك خطر الهلوسة بدرجة كبيرة، لأنه يضع بين يدي النموذج بيانات جاهزة للعمل عليها.

على سبيل المثال، تتيح منصة بيانات الشركات Compabase الربط عبر MCP، بحيث يستطيع الذكاء الاصطناعي التحقق سريعًا من بيانات الشركات المحلية. فإذا طلبنا منه هذه المرة أرقام السجل التجاري لـ20 شركة في دبي تتزايد إيراداتها، فلن يعتمد على أرقام مختلقة، بل يمكنه تقديم قائمة متسقة ومتحقق منها. ليس السبب أن النموذج أصبح فجأة «أذكى»؛ بل إنه لم يكن يملك سابقًا إمكانية الوصول إلى هذه البيانات، وأصبح الآن قادرًا على إرسال استعلام SQL بسيط إلى قاعدة البيانات والحصول على نتيجة جاهزة.

بعبارة أخرى:

من دون MCP:

• قد تكون بعض الشركات غير موجودة؛
• قد تكون البيانات المالية غير دقيقة؛
• قد تكون أرقام السجل التجاري مختلقة.

مع MCP:

• يستعلم النموذج من قاعدة البيانات؛
• يسترجع سجلات محددة؛
• تكون نتيجة الاستعلام محددة وفق البيانات المتاحة.

بالطبع، لا تختفي احتمالات الهلوسة تمامًا إذا واصلنا مطالبة النموذج بمعالجة كميات مفرطة من البيانات ودمجها. لكن حين نوفر بيئة ذات بنية واضحة وبيانات محدّثة، ونحدّد مجال التفسير، يقلّ اعتماد الذكاء الاصطناعي على التخمين ويصبح أقدر على تحليل معلومات موجودة فعلًا.