بناء الذكاء الاصطناعي للمجتمع التعددي

تعتمد أنظمة الذكاء الاصطناعي الحديث (AI) على مدخلات من الناس. تساعد التعليقات البشرية على تدريب النماذج على أداء المهام المفيدة ، ويرشدها نحو السلوك الآمن والمسؤول ، ويستخدم لتقييم أدائها. أثناء الترحيب بالتقدم الأخير من الذكاء الاصطناعي ، يجب أن نسأل أيضًا: أي البشر هل نتحدث بالفعل؟ لكي تكون الذكاء الاصطناعى أكثر فائدة ، ينبغي أن يكون ذلك يعكس و احترام النسيج المتنوع للقيم والمعتقدات والمنظورات الموجودة في العالم التعددي الذي نعيش فيه ، وليس مجرد وجهة نظر واحدة “متوسط” أو وجهة نظر الأغلبية. يكون التنوع في المنظورات ذات صلة بشكل خاص عندما تؤدي أنظمة الذكاء الاصطناعي مهام ذاتية ، مثل تحديد ما إذا كان سيتم النظر إلى الاستجابة على أنها مفيدة أو مسيئة أو غير آمنة. على سبيل المثال ، قد يكون نظام القيمة الذي يعتبره هجومًا مقبولًا تمامًا في مجموعة أخرى من القيم.

نظرًا لأن الاختلاف في المنظورات غالباً ما يتماشى مع الخطوط الاجتماعية والثقافية والديمغرافية ، فإن التقاط وجهات نظر مجموعات معينة على الآخرين في البيانات قد يؤدي إلى تباينات في كيفية خدمة أنظمة الذكاء الاصطناعى بشكل جيد. على سبيل المثال ، لقد أثبتنا سابقًا أن مجرد إجراء تصويت الأغلبية من التعليقات التوضيحية البشرية قد يختلف عن الاختلاف الصحيح في المنظورات عبر المجموعات الاجتماعية ، وتهميش منظور الأقليات عن غير قصد ، وبالتالي أداء أقل بشكل موثوق للمجموعات المهمشة في البيانات. تعتمد كيف يجب أن تتعامل أنظمة الذكاء الاصطناعي مع هذا التنوع في وجهات النظر على السياق الذي يتم استخدامه فيه. ومع ذلك ، فإن النماذج الحالية تفتقر إلى طريقة منهجية للتعرف على هذه السياقات والتعامل معها.

مع وضع ذلك في الاعتبار ، نحن هنا وصف جهودنا المستمرة في السعي لالتقاط وجهات نظر متنوعة وبناء منظمة العفو الدولية للمجتمع التعددي الذي نعيش فيه. نبدأ مع فهم وجهات نظر مختلفة في العالم ، وفي النهاية نطور طرقًا فعالة دمج هذه الاختلافات في خط أنابيب النمذجة. يوفر كل مرحلة من مراحل خط أنابيب تطوير الذكاء الاصطناعى – من المفاهيم وجمع البيانات إلى التدريب والتقييم والنشر – فرصًا فريدة لتضمين وجهات نظر متنوعة ، ولكنها تقدم أيضًا تحديات متميزة. لا يمكن أن يعتمد الذكاء الاصطناعي التعددي حقًا على إصلاحات أو تعديلات معزولة ؛ إنه يتطلب نهجًا كليًا وطبقة يعترف ويدمج التعقيد في كل خطوة. مع وضع قابلية التوسع في الاعتبار ، بدأنا (1) فصل الاختلافات المنهجية في المنظورات عبر المجموعات الاجتماعية ، (2) تطوير فهم متعمق للأسباب الأساسية لهذه الاختلافات ، و (3) بناء طرق فعالة لدمج الاختلافات ذات المغزى في خط أنابيب التعلم الآلي (ML).