الثقة في العميل الذكاء الاصطناعى: لماذا يجب أن تأتي البنية التحتية للتقييم أولاً
كتب – المحرر الإفتراضي
عندما يدخل وكلاء الذكاء الاصطناعى النشر في العالم الحقيقي ، تتعرض المنظمات لضغوط لتحديد المكان الذي ينتمون إليه ، وكيفية بنائها بفعالية ، وكيفية تشغيلها على نطاق واسع. في VentureBeat’s Transform 2025 ، اجتمع قادة التكنولوجيا للحديث عن كيفية تحويل أعمالهم مع الوكلاء: جوان تشن ، الشريك العام في Foundation Capital ؛ Shailesh Nalawadi ، نائب الرئيس لإدارة المشروع مع Sendbird ؛ Thys Waanders ، SVP من تحول الذكاء الاصطناعي في cognigy ؛ وشون مالهوترا ، CTO ، شركات الصواريخ.
عدد قليل من حالات استخدام AI العليا العليا
وقال نالوادي: “إن الجاذبية الأولية لأي من هذه عمليات النشر لعوامل الذكاء الاصطناعي يميل إلى إنقاذ رأس المال البشري – الرياضيات واضحة ومباشرة”. “ومع ذلك ، فإن هذا يقلم من القدرة التحويلية التي تحصل عليها مع وكلاء الذكاء الاصطناعي.”
في Rocket ، أثبت وكلاء الذكاء الاصطناعى أنهم أدوات قوية في زيادة تحويل الموقع.
وقال مالهوترا: “لقد وجدنا أنه من خلال تجربتنا القائمة على الوكيل ، تجربة المحادثة على موقع الويب ، من المرجح أن يتحول العملاء بثلاث مرات عند وصولهم إلى تلك القناة”.
ولكن هذا مجرد خدش السطح. على سبيل المثال ، قام مهندس صاروخ ببناء وكيل في يومين فقط لأتمتة مهمة متخصصة للغاية: حساب ضرائب التحويل أثناء الاكتتاب العقاري.
وقال مالهوترا: “أن هذا الجهد يومين من الجهد أنقذنا مليون دولار سنويًا من النفقات”. “في عام 2024 ، أنقذنا أكثر من مليون ساعة من أعضاء الفريق ، معظمهم من خلفية حلول الذكاء الاصطناعي لدينا. هذا ليس مجرد توفير المصاريف. إنه يسمح أيضًا لأعضاء فريقنا بتركيز وقتهم على الأشخاص الذين يقومون في كثير من الأحيان بأكبر معاملة مالية في حياتهم.”
الوكلاء هم في الأساس شحن أعضاء الفريق الفردي. لم تكن هذه المهمة التي تم حفظها ملايين ساعة لا تكرس فيها وظيفة شخص ما عدة مرات. إنها كسور من المهمة التي لا يتمتع بها الموظفون ، أو لم يضيفوا قيمة إلى العميل. وهذا المليون ساعة المحفوظة يمنح الصاروخ القدرة على التعامل مع المزيد من الأعمال.
وأضاف مالهوترا: “تمكن بعض أعضاء فريقنا من التعامل مع عملاء أكثر بنسبة 50 ٪ العام الماضي مما كانوا عليه في العام السابق”. “هذا يعني أنه يمكن أن يكون لدينا إنتاجية أعلى ، وقيادة المزيد من الأعمال ، ومرة أخرى ، نرى معدلات تحويل أعلى لأنهم يقضون الوقت في فهم احتياجات العميل مقابل القيام بالكثير من الأعمال العاطفية التي يمكن أن تقوم بها الذكاء الاصطناعي الآن.”
معالجة تعقيد الوكيل
“جزء من الرحلة لفرقنا الهندسية ينتقل من عقلية هندسة البرمجيات – اكتب مرة واحدة واختبرها ويعطي نفس الإجابة 1000 مرة – على النهج الأكثر احتمالية ، حيث تسأل نفس الشيء من LLM وتعطي إجابات مختلفة من خلال بعض الاحتمالات” ، قال نالودي. “لقد كان الكثير منها يجلب الناس. ليس فقط مهندسي البرمجيات ، ولكن مديري المنتجات ومصممي UX.”
وقال واندرز إن ما ساعده هو أن LLMs قطعت شوطًا طويلاً. إذا قاموا ببناء شيء ما قبل 18 شهرًا أو عامين ، فقد اضطروا حقًا إلى اختيار النموذج الصحيح ، أو لن يؤدي الوكيل كما هو متوقع. الآن ، كما يقول ، نحن الآن في مرحلة تتصرف فيها معظم النماذج الرئيسية بشكل جيد للغاية. إنهم أكثر قابلية للتنبؤ. لكن التحدي اليوم هو الجمع بين النماذج ، وضمان الاستجابة ، وتنظيم النماذج الصحيحة في التسلسل الصحيح والنسج في البيانات الصحيحة.
وقال واندرز: “لدينا عملاء يدفعون عشرات الملايين من المحادثات سنويًا”. “إذا كنت تتم أتمتة ، على سبيل المثال ، 30 مليون محادثات في السنة ، كيف يمكن لهذا الحجم في عالم LLM؟ هذه كل الأشياء التي كان علينا اكتشافها ، وأشياء بسيطة ، من الحصول على توافر النموذج مع مقدمي الخدمات السحابية. الحصول على حصة كافية مع نموذج ChatGpt ، على سبيل المثال. هذه هي كل ما يتعين علينا أن نمر به ، وعملائنا أيضًا.
وقالت مالهوترا إن طبقة فوق تنظيم LLM تنشر شبكة من الوكلاء. تتمتع تجربة المحادثة بشبكة من الوكلاء تحت غطاء المحرك ، ويحدد Orchestrator أي وكيل لزراعة الطلب من تلك المتاحة.
وقال “إذا لعبت هذا إلى الأمام وفكرت في وجود مئات أو الآلاف من الوكلاء القادرين على أشياء مختلفة ، فستحصل على بعض المشكلات الفنية المثيرة للاهتمام حقًا”. “لقد أصبحت مشكلة أكبر ، لأن الكمون والوقت مهم. سيكون توجيه الوكيل هذا مشكلة مثيرة للاهتمام للغاية التي يجب حلها خلال السنوات القادمة.”
الاستفادة من علاقات البائع
حتى هذه النقطة ، كانت الخطوة الأولى بالنسبة لمعظم الشركات التي تطلق AICENC AI تقوم ببناء في الشركة ، لأن الأدوات المتخصصة لم تكن موجودة بعد. لكن لا يمكنك التمييز وإنشاء قيمة عن طريق بناء البنية التحتية العامة LLM أو البنية التحتية لمنظمة العفو الدولية ، وتحتاج إلى خبرة متخصصة لتجاوز البناء الأولي ، والتصحيح ، وتكرار ، وتحسين ما تم بناؤه ، وكذلك الحفاظ على البنية التحتية.
وقال نالوادي: “غالبًا ما نجد المحادثات الأكثر نجاحًا التي أجريناها مع العملاء المحتملين إلى أن تكون شخصًا قام بالفعل ببناء شيء ما في المنزل”. “إنهم يدركون بسرعة أن الوصول إلى 1.0 أمر على ما يرام ، ولكن مع تطور العالم ومع تطور البنية التحتية ولأنهم يحتاجون إلى تبديل التكنولوجيا لشيء جديد ، فإنهم ليس لديهم القدرة على تنظيم كل هذه الأشياء.”
التحضير لتعقيد العوامل الذكاء الاصطناعي
من الناحية النظرية ، لن ينمو العميل الذكاء الاصطناعي إلا في التعقيد – سيرتفع عدد الوكلاء في المنظمة ، وسيبدأون في التعلم من بعضهم البعض ، وسوف ينفجر عدد حالات الاستخدام. كيف يمكن للمنظمات الاستعداد للتحدي؟
وقال مالهوترا: “هذا يعني أن الشيكات والتوازنات في نظامك ستشدد أكثر”. “بالنسبة لشيء لديه عملية تنظيمية ، لديك إنسان في الحلقة للتأكد من أن شخصًا ما يتوقع من هذا. بالنسبة للعمليات الداخلية الحرجة أو الوصول إلى البيانات ، هل لديك قابلية للملاحظة؟ هل لديك التنبيه والمراقبة الصحيح حتى يكون هناك شيء خاطئ ، فأنت تعلم أن الأمر يسير على ما يرام؟ فتح ، عليك أن تفعل ذلك. “
فكيف يمكن أن تكون ثقة في أن عميل منظمة العفو الدولية سوف يتصرف بشكل موثوق كما يتطور؟
وقال نالوادي: “هذا الجزء صعب حقًا إذا لم تكن تفكر في الأمر في البداية”. “الإجابة المختصرة هي ، قبل أن تبدأ في بنائها ، يجب أن يكون لديك بنية تحتية للتقييم.
المشكلة هي أنها غير محددة ، وأضاف واندرز. يعد اختبار الوحدة أمرًا بالغ الأهمية ، لكن التحدي الأكبر هو أنك لا تعرف ما لا تعرفه – ما هي السلوكيات غير الصحيحة التي يمكن أن يعرضها الوكيل ، وكيف يمكن أن يتفاعل في أي موقف معين.
وقال واندرز: “لا يمكنك إلا أن تجد ذلك فقط من خلال محاكاة المحادثات على نطاق واسع ، من خلال دفعها تحت الآلاف من السيناريوهات المختلفة ، ثم تحليل كيفية ظهورها وكيف يتفاعل”.
