باحثون من MIT وهارفارد يحذرون: الذكاء الاصطناعي يتنبأ جيداً لكنه لا يفهم العالم الحقيقي!

في القرن السابع عشر، استطاع عالم الفلك الألماني يوهانس كيبلر صياغة قوانين الحركة التي سمحت بالتنبؤ بدقة بمواقع الكواكب في سمائنا أثناء دورانها حول الشمس. لكن الأمر استغرق عقوداً حتى أتى إسحاق نيوتن بصياغة قوانين الجاذبية الكونية التي كشفت المبادئ الأساسية الكامنة وراء تلك الحركة. لم تكن قوانين نيوتن امتداداً لعمل كيبلر فحسب، بل تجاوزته لتجعل من الممكن تطبيق الصيغ نفسها على كل شيء بدءاً من مسار قذيفة المدفع وحتى طريقة سحب القمر للبحار على الأرض.

اليوم، أصبحت أنظمة الذكاء الاصطناعي المتطورة جيدة جداً في عمل تنبؤات محددة تشبه إلى حد كبير تنبؤات كيبلر. ولكن السؤال الذي يحير الباحثين هو: هل تفهم هذه الأنظمة حقاً لماذا تعمل تنبؤاتها، بذلك العمق الذي comes من فهم المبادئ الأساسية مثل قوانين نيوتن؟ مع الاعتماد المتزايد للعالم على هذه الأنظمة، يعكف الباحثون على محاولة قياس كيفية قيامها بما تفعله، ومدى عمق فهمها للعالم الحقيقي.

في خطوة مهمة نحو الإجابة على هذا السؤال، ابتكر باحثون من مختبر MIT لأنظمة المعلومات والقرارات (LIDS) وجامعة هارفارد منهجية جديدة لتقييم مدى العمق الذي تفهم به هذه الأنظمة التنبؤية موضوعها، وما إذا كان بإمكانها تطبيق المعرفة من مجال لآخر مختلف قليلاً. والإجابة في الأمثلة التي درسوها، إلى حد كبير، هي: ليس كثيراً.

وقدمت هذه النتائج في “المؤتمر الدولي للتعلم الآلي” في فانكوفر الشهر الماضي، بمشاركة باحثي ما بعد الدكتوراه في هارفارد “كيون فافا”، وطالب الدراسات العليا في MIT “بيتر جي تشانغ”، والأستاذ المساعد “أشيش رامباتشان”، والأستاذ البارز “سيندهيل موليناتان”.

ويوضح “فافا”، المؤلف الرئيسي للدراسة، قائلاً: “لطالما استطاع البشر الانتقال من التنبؤات الجيدة إلى بناء نماذج عن العالم. لذا كان السؤال الذي تناولناه هو: هل استطاعت النماذج الأساسية (Foundation Models) – هل استطاع الذكاء الاصطناعي – القيام بهذه القفزة من التنبؤات إلى بناء نماذج العالم؟ نحن لا نسأل عما إذا كانوا قادرين على ذلك، أو هل يمكنهم، أو هل سيفعلون. نحن فقط نسأل، هل فعلوا ذلك حتى الآن؟”.

من جانبه، يقول “موليناتان”: “نحن نعرف كيفية اختبار ما إذا كانت الخوارزمية تتوقع بشكل جيد. لكن ما نحتاجه هو طريقة لاختبار ما إذا كانت قد فهمت جيدًا. حتى تعريف ما يعنيه الفهم كان تحديًا”.

ويشبه الفريق الموقف بالفرق بين امتلاك خريطة دقيقة لمدينة (التنبؤ) مقابل فهم قواعد المرور والجغرافيا التي تحكم بناء شوارعها (الفهم العميق). النموذج الذي يفهم يمكنه التنقل في أي مدينة جديدة، بينما يظل النموذج التنبؤي حبيساً في الخريطة التي تدرب عليها.

ولاختبار هذه الفكرة، نظر الفريق في أمثلة مختلفة لأنظمة الذكاء الاصطناعي التنبؤية، بمستويات متفاوتة من التعقيد. في أبسط الأمثلة، وهي نموذج يشبه ضفدعاً يقفز بين أوراق زنبق في صف واحد (نموذج شبكي أحادي البعد)، نجحت الأنظمة في إنشاء نموذج واقعي للنظام المحاكى. ولكن مع زيادة التعقيد، تلاشت هذه القدرة بسرعة.

وطور الفريق مقياساً كمياً جديداً أطلقوا عليه اسم “الانحياز الاستقرائي” (Inductive Bias)، وهو يقيس مدى قدرة النظام على تقريب الظروف الواقعية بناء على استقراء الأنماط من كميات هائلة من البيانات. وتم تطبيق هذا المقياس على مهام أكثر تعقيداً، مثل محاكاة لعبة الطاولة “أوثللو”، حيث وجدوا أن النماذج يمكنها التنبؤ بالحركة المسموح بها بدقة، لكنها فشلت فشلاً ذريعاً في استنتاج التكوين العام للقطع على لوحة اللعب، بما في ذلك القطع المحجوبة حالياً عن اللعب.

ويشير “تشانغ” إلى أن النتائج تظهر فجوة فهم كبيرة: “في شبكة ثنائية أو ثلاثية الحالات، أظهرنا أن النموذج لديه بالفعل انحياز استقرائي جيد نحو النموذج الحقيقي للعالم. ولكن مع زيادة عدد الحالات، يبدأ في الابتعاد عن النماذج الواقعية”.

هذه النتائج لها تداعيات كبيرة على التطبيقات الواعدة للذكاء الاصطناعي في المجالات العلمية الحرجة، مثل اكتشاف الأدوية أو التنبؤ ببنية البروتينات، حيث يعتمد العلماء على هذه النماذج للاستدلال على خصائص مركبات أو جزيئات لم تُخلق بعد.

ويختتم “فافا” بالقول: “بالنسبة للمشاكل الواقعية، حتى بالنسبة لشيء أساسي مثل الميكانيكا، وجدنا أن الطريق لا يزال طويلاً”. لكن هذا المقياس الجديد يمنح الأمل: “أملنا هو توفير نوع من منصة الاختبار حيث يمكنك تقييم نماذج مختلفة، ومناهج تدريب مختلفة، على مشاكل نعرف فيها نموذج العالم الحقيقي مسبقاً”. إذا أدى النموذج بشكل جيد في هذه الحالات، فيمكننا أن نكون أكثر ثقة في أن تنبؤاته قد تكون مفيدة حتى في الحالات “التي لا نعرف فيها الحقيقة حقًا”.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.