Reddit تشدد إجراءات التحقق لمنع دخول روبوتات الذكاء الاصطناعي الشبيهة بالبشر

صُدم مستخدمو Reddit حول العالم الأسبوع الماضي بعد أن علموا أن فريقًا من الباحثين أطلق سربًا من الروبوتات التي تعمل بالذكاء الاصطناعي والتي تنتحل شخصية الإنسان على subreddit “Change My View”. تم تصميم التجربة واسعة النطاق لاستكشاف مدى قدرة الذكاء الاصطناعي على الإقناع.

نشرت الروبوتات أكثر من 1700 تعليق، واعتمدت شخصيات مثل الناجين من الاعتداء أو هويات مثيرة للجدل مثل مدافع مناهض لحركة Black Lives Matter.

بالنسبة إلى Reddit، كان الحادث بمثابة كابوس مصغر. ترتبط علامة Reddit التجارية بالأصالة – وهو مكان يأتي فيه أشخاص حقيقيون لتبادل الآراء الحقيقية. إذا تم تعطيل هذا النظام البيئي الذي يركز على الإنسان بسبب فوضى الذكاء الاصطناعي أو أصبح مكانًا لا يستطيع فيه الأشخاص الوثوق في أنهم يحصلون على معلومات من بشر فعليين، فقد يفعل ذلك أكثر من مجرد تهديد هوية Reddit الأساسية. قد يكون صافي أرباح Reddit على المحك، حيث تبيع الشركة الآن محتواها إلى OpenAI للتدريب.

أدانت الشركة “التجربة غير اللائقة وغير الأخلاقية للغاية” وقدمت شكوى إلى الجامعة التي أجرتها. لكن تلك التجربة كانت مجرد واحدة من العديد من الحالات التي من المحتمل أن تتظاهر فيها روبوتات الذكاء الاصطناعي التوليدية بأنها بشر على Reddit لمجموعة متنوعة من الأسباب، من العلمية إلى التلاعب السياسي.

لحماية المستخدمين من التلاعب بالروبوتات و “الحفاظ على Reddit إنسانيًا”، أشارت الشركة بهدوء إلى إجراء قادم – قد يكون غير شائع لدى المستخدمين الذين يأتون إلى Reddit لسبب آخر: عدم الكشف عن هويتهم.

يوم الاثنين، شارك الرئيس التنفيذي لـ Reddit، ستيف هوفمان، في منشور مفاده أن Reddit ستبدأ العمل مع “خدمات مختلفة تابعة لجهات خارجية” للتحقق من إنسانية المستخدم. يمثل هذا خطوة مهمة لمنصة لم تطلب تاريخيًا أي معلومات شخصية تقريبًا من المستخدمين لإنشاء حساب.

كتب هوفمان: “للحفاظ على Reddit إنسانيًا وتلبية المتطلبات التنظيمية المتطورة، سنحتاج إلى مزيد من المعلومات”. “على وجه التحديد، سنحتاج إلى معرفة ما إذا كنت إنسانًا، وفي بعض المواقع، إذا كنت بالغًا. لكننا لا نريد أبدًا معرفة اسمك أو من أنت.

(بدأت شركات التواصل الاجتماعي بالفعل في تنفيذ فحوصات الهوية بعد أن أصدرت تسع ولايات على الأقل والمملكة المتحدة قوانين تفرض التحقق من العمر لحماية الأطفال على منصاتهم.)

رفض متحدث باسم Reddit توضيح الظروف التي ستطلب فيها الشركة من المستخدمين الخضوع لعملية التحقق، على الرغم من أنهم أكدوا أن Reddit تتخذ بالفعل تدابير لحظر الروبوتات “السيئة”. كما لم يشارك المتحدث المزيد من التفاصيل حول الخدمات الخارجية التي ستستخدمها الشركة أو نوع المعلومات التعريفية الشخصية التي سيتعين على المستخدمين تقديمها.

تعتمد العديد من الشركات اليوم على منصات التحقق مثل Persona و Alloy و Stripe Identity و Plaid و Footprint، والتي تتطلب عادةً هوية صادرة عن جهة حكومية للتحقق من العمر والإنسانية. ثم هناك التكنولوجيا الأحدث والأكثر تخمينًا، مثل أدوات Sam Altman للإنسانية وجهاز “إثبات الإنسان” الخاص بها الذي يمسح العين.

يقول معارضو فحوصات الهوية إن هناك مخاطر تتعلق بخصوصية البيانات وأمانها لمشاركة معلوماتك الشخصية مع منصات التواصل الاجتماعي. هذا صحيح بشكل خاص بالنسبة لمنصة مثل Reddit، حيث يأتي الأشخاص لنشر تجارب ربما لم يكن لديهم أبدًا إذا كانت أسماؤهم مرتبطة بها.

ليس من الصعب تخيل عالم قد تستدعي فيه السلطات Reddit للحصول على هوية، على سبيل المثال، مراهقة حامل تسأل عن تجارب الإجهاض على r/women في الولايات التي أصبح فيها الآن غير قانوني. ما عليك سوى إلقاء نظرة على كيفية تسليم Meta محادثات خاصة بين امرأة من نبراسكا وابنتها البالغة من العمر 17 عامًا، والتي ناقشت خطط الأخيرة لإنهاء الحمل. أدت مساعدة Meta إلى حصول سلطات إنفاذ القانون على مذكرة تفتيش، مما أدى إلى اتهامات جنائية لكل من الأم والابنة.

هذا هو بالضبط الخطر الذي تأمل Reddit في تجنبه من خلال الاستعانة بشركات خارجية لتقديم “المعلومات الأساسية ولا شيء آخر”، وفقًا لهوفمان، الذي أكد على أننا “لا نريد أبدًا معرفة اسمك أو من أنت”.

وقال: “عدم الكشف عن الهوية ضروري لـ Reddit”.

وأشار الرئيس التنفيذي أيضًا إلى أن Reddit ستظل “تحمي معلوماتك الشخصية للغاية” و “ستواصل التصدي للمطالب المفرطة أو غير المعقولة من السلطات العامة أو الخاصة”.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.