تعليم نماذج الذكاء الاصطناعي حدود معرفتها: تقنية جديدة لضمان دقة النتائج

تُقدّم أنظمةُ الذكاءِ الاصطناعيّ، مثلُ ChatGPT، إجاباتٍ مُقنعةً على أيّ سؤالٍ قد تطرحه. لكنّها لا تكشفُ دائمًا عن الثغراتِ في معرفتها أو المجالاتِ التي تشعرُ بالتردّدِ فيها. يمكنُ أن تكونَ لهذهِ المشكلةِ عواقبُ خطيرةٌ معَ زيادةِ استخدامِ أنظمةِ الذكاءِ الاصطناعيّ في أمورٍ مثلِ تطويرِ الأدوية، وتوليفِ المعلومات، وقيادةِ السياراتِ ذاتيةِ القيادة.

الآن، تساعدُ شركةُ Themis AI، وهي شركةٌ ناشئةٌ من معهدِ ماساتشوستسِ للتكنولوجيا، على تحديدِ عدمِ يقينِ النموذجِ وتصحيحِ المخرجاتِ قبلَ أن تُسبّبَ مشاكلَ أكبر. يمكنُ لِمنصّةِ Capsa التابعةِ لِلشركةِ أن تعملَ معَ أيّ نموذجِ تعلمٍ آليّ لكشفِ وتصحيحِ المخرجاتِ غيرِ الموثوقةِ خلالَ ثوانٍ. وهي تعملُ من خلالِ تعديلِ نماذجِ الذكاءِ الاصطناعيّ لتمكينِها من اكتشافِ الأنماطِ في معالجةِ بياناتها التي تُشيرُ إلى غموضٍ، أو عدمِ اكتمالٍ، أو تحيزٍ.

تقولُ دانييلا روس، المُؤسّسةُ المُشاركةُ لـ Themis AI وأستاذةٌ في معهدِ ماساتشوستسِ للتكنولوجيا، وهي أيضًا مديرةُ مختبرِ علومِ الحاسوبِ والذكاءِ الاصطناعيّ (CSAIL): “الفكرةُ هي أخذُ نموذجٍ، وتغليفهُ بـ Capsa، وتحديدِ عدمِ اليقينِ وأوضاعِ الفشلِ في النموذج، ثمّ تعزيزِ النموذج”. “نحنُ مُتحمّسونُ لتقديمِ حلٍّ يمكنُ أن يُحسّنَ النموذجَ ويُقدّمَ ضماناتٍ بأنّ النموذجَ يعملُ بشكلٍ صحيح”.

أسّست روس Themis AI في عام ٢٠٢١ معَ ألكساندر أمينى وإيلاه أحمدي، وهما باحثان سابقان في مختبرها. منذُ ذلك الحين، ساعدوا شركاتِ الاتصالاتِ في تخطيطِ الشبكاتِ وأتمتتها، وساعدوا شركاتِ النفطِ والغازِ في استخدامِ الذكاءِ الاصطناعيّ لفهمِ الصورِ الزلزالية، ونشروا أبحاثًا حولَ تطويرِ روبوتاتِ دردشةٍ أكثرَ موثوقيةً واعتِمادًا.

يقولُ أمينى: “نريدُ تمكينَ الذكاءِ الاصطناعيّ في أعلى تطبيقاتِ المخاطرِ في كلّ صناعة”. “لقد رأينا جميعًا أمثلةً على هلوساتِ الذكاءِ الاصطناعيّ أو ارتكابهِ لأخطاء. معَ انتشارِ الذكاءِ الاصطناعيّ بشكلٍ أوسع، قد تُؤدّي هذهِ الأخطاءُ إلى عواقبَ مدمّرة. تُمكّنُ Themis أيّ ذكاءٍ اصطناعيّ من التنبؤِ بأعطالهِ الخاصة، قبلَ حدوثِها”.

مساعدةُ النموذجِ على معرفةِ ما لا يعرفه

يُجري مختبرُ روس أبحاثًا حولَ عدمِ يقينِ النموذجِ لسنواتٍ. في عام ٢٠١٨، تلقّت تمويلًا من تويوتا لدراسةِ موثوقيةِ حلٍّ للقِيادةِ ذاتيةِ القيادةِ يعتمدُ على التعلّمِ الآليّ.

تقولُ روس: “هذا سياقٌ حساسٌ للسّلامةِ حيثُ يُعدّ فهمُ موثوقيةِ النموذجِ مُهمًا جدا”.

في عملٍ مُنفصلٍ، بنت روس وأمينى والمُشاركونُ معهم خوارزميةً يمكنُها اكتشافُ التحيزِ العرقيّ والجنسيّ في أنظمةِ التعرّفِ على الوجوهِ وإعادةِ وزنِ بياناتِ تدريبِ النموذجِ تلقائيًا، مُظهرةً أنّها أزالتِ التحيز. عملتِ الخوارزميةُ من خلالِ تحديدِ الأجزاءِ غيرِ المُمثلةِ من بياناتِ التدريبِ الأساسيةِ وتوليدِ عيناتِ بياناتٍ جديدةٍ مُشابهةٍ لإعادةِ توازنِها.

في عام ٢٠٢١، أظهرَ المُؤسّسونُ المُشاركون في المُستقبلِ أنّ نهجًا مُشابهًا يمكنُ استخدامهُ لمُساعدةِ شركاتِ الصيدلةِ في استخدامِ نماذجِ الذكاءِ الاصطناعيّ للتنبؤِ بخصائصِ مرشّحي الأدوية. أسّسوا Themis AI في وقتٍ لاحقٍ من ذلك العام.

تقولُ روس: “توجيهُ اكتشافِ الأدويةِ يمكنُ أن يُوفّرَ الكثيرَ من الأموال”. “كانَ هذا هو حالةُ الاستخدامِ التي جعلتنا نُدركُ مدى قوةِ هذهِ الأداة”.

اليوم، تعملُ Themis AI معَ المؤسّساتِ في مُتنوّعاتٍ من الصناعات، والكثيرُ من هذهِ الشركاتِ تُنشئُ نماذجَ لغةٍ كبيرة. من خلالِ استخدامِ Capsa، تستطيعُ هذهِ النموذجُ تحديدِ عدمِ يقينِها الخاصّ لكلّ مُخرَج.

يُلاحظُ ستيوارت جاميسون، رئيسُ التكنولوجيا في Themis AI: “الكثيرُ من الشركاتِ مهتمٌّ باستخدامِ نماذجِ اللغةِ الكبيرةِ التي تعتمدُ على بياناتها، لكنّهم قلقونُ بشأنِ الموثوقية”. “نحنُ نُساعدُ نماذجَ اللغةِ الكبيرةَ على الإبلاغِ عن ثقتها وعدمِ يقينِها ذاتيًا، مما يُمكّنُ الإجابةَ على الأسئلةِ بشكلٍ أكثرِ موثوقيةً وإبرازَ المخرجاتِ غيرِ الموثوقة”.

تُجري Themis AI أيضًا مُحادثاتٍ معَ شركاتِ أشباهِ الموصلاتِ التي تُنشئُ حلولَ ذكاءٍ اصطناعيّ على رقائقها التي يمكنُ أن تعملَ خارجَ بيئاتِ السّحابة.

يُوضحُ جاميسون: “عادةً ما تكونُ هذهِ النموذجُ الأصغرُ التي تعملُ على الهواتفِ أو الأنظمةِ المُدمجةِ ليست دقيقةً جدا مقارنةً بما يمكنُ تشغيلُه على خادم، لكنّنا يمكنُنا الحصولُ على أفضلِ المُمكنين: انخفاضُ الوقتِ الاستجابة، وحوسبةُ الطرفِ الفعّالة دونَ التنازلِ عنِ الجودة”. “نرى مُستقبلًا تُنجزُ فيهِ أجهزةُ الطرفِ معظمَ العمل، لكنّها عندما تكونُ غيرَ متأكّدةٍ من مُخرجاتها، يمكنُها إحالةُ هذهِ المهامّ إلى خادمٍ مركزيّ”.

يمكنُ لشركاتِ الصيدلةِ أيضًا استخدامُ Capsa لِتحسينِ نماذجِ الذكاءِ الاصطناعيّ المُستخدمةِ في تحديدِ مرشّحي الأدويةِ والتنبؤِ بأدائهم في التجاربِ السّريريّة.

يُشيرُ أمينى: “التنبؤاتُ ومخرجاتُ هذهِ النموذجِ مُعقّدةٌ جدا وصعبةُ التفسير – يقضي الخُبراءُ الكثيرَ من الوقتِ والجهدِ في محاولةِ فهمِها”. “يمكنُ لـ Capsa إعطاءَ رؤى مباشرةً لفهمِ ما إذا كانتِ التنبؤاتُ مدعومةً بِأدلةٍ في مجموعةِ التدريبِ أم هي مجردُ تكهّناتٍ دونَ أساسٍ كبير. يمكنُ أن يُسرّعَ هذا تحديدَ أقوى التنبؤات، ونعتقدُ أنّ لهذا إمكاناتٍ هائلةً للخيرِ الاجتماعيّ”.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.