طبقة الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلة التحيز والأوهام في الذكاء الاصطناعي

مؤخرا، تم إطلاق نسخة تجريبية عامة على الإنترنت باسم ميرا، مما أثار اهتمام الصناعة بمسألة موثوقية الذكاء الاصطناعي. الهدف من شبكة ميرا هو بناء طبقة ثقة للذكاء الاصطناعي، لمعالجة التحيزات ومشكلات "الهلوسة" التي قد تحدث أثناء استخدام الذكاء الاصطناعي. إذن، لماذا يجب الوثوق بالذكاء الاصطناعي؟ وكيف تعالج ميرا هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبًا ما يركز الناس على قوته الكبيرة. ومع ذلك، فإن مشكلة "الوهم" أو التحيز التي تحدث في الذكاء الاصطناعي غالبًا ما يتم تجاهلها. ما يسمى "الوهم" في الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانًا "يخترع" أشياء، ويتحدث بجدية بينما يهراء. على سبيل المثال، عندما يُسأل لماذا القمر وردي، قد يعطي الذكاء الاصطناعي تفسيرًا يبدو معقولًا ولكنه خيالي تمامًا.

تتعلق "هلوسة" أو تحيزات الذكاء الاصطناعي الحالي ببعض مسارات تقنيات الذكاء الاصطناعي الحالية. تحقق الذكاء الاصطناعي التوليدي التماسك والمنطق من خلال توقع "الأكثر احتمالاً" للمحتوى، ولكنه أحيانًا غير قادر على التحقق من صحة المعلومات. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، مما يؤثر على مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية بدلاً من الحقائق ذاتها.

إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة تؤدي تقريبًا بشكل حتمي إلى ظهور أوهام الذكاء الاصطناعي. وعلى الرغم من أن هذه المخرجات المتحيزة أو الوهمية قد لا تسبب عواقب مباشرة في مجالات المعرفة العامة أو المحتوى الترفيهي، إلا أنه في مجالات مثل الطب والقانون والطيران والمالية، يمكن أن تكون لها تأثيرات خطيرة. لذلك، أصبح معالجة أوهام الذكاء الاصطناعي والتحيزات واحدة من القضايا الأساسية في عملية تطوير الذكاء الاصطناعي.

يهدف مشروع ميرا إلى معالجة قضية تحيز الذكاء الاصطناعي والأوهام، وبناء طبقة ثقة للذكاء الاصطناعي، وزيادة موثوقية الذكاء الاصطناعي. فكيف تحقق ميرا هذا الهدف؟

تتمثل الطريقة الأساسية لـ Mira في التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. تعتبر Mira في جوهرها شبكة تحقق، حيث تضمن موثوقية مخرجات الذكاء الاصطناعي من خلال التحقق اللامركزي القائم على التوافق. تجمع هذه الطريقة بين مزايا التحقق اللامركزي الذي يتميز به مجال التشفير وتعاون النماذج المتعددة، من خلال نموذج تحقق شامل لتقليل التحيزات والأوهام.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات تحقق مستقلة. يشارك مشغلو العقد في التحقق من هذه البيانات، ويضمنون نزاهتهم من خلال آلية الحوافز/العقوبات الاقتصادية المشفرة. تشارك نماذج الذكاء الاصطناعي المختلفة ومشغلو العقد الموزعين معًا لضمان موثوقية نتائج التحقق.

تشمل بنية شبكة ميرا تحويل المحتوى والتحقق الموزع وآلية التوافق. أولاً، يقوم النظام بتفكيك المحتوى المرشح المقدم من العملاء إلى بيانات قابلة للتحقق مختلفة، ثم يوزعها على العقد للتحقق. بعد أن تحدد العقد صلاحية البيانات، يقوم النظام بتجميع النتائج للوصول إلى توافق، وإعادة النتائج إلى العملاء. لحماية خصوصية العملاء، سيتم توزيع البيانات بطريقة تجزئة عشوائية على العقد المختلفة.

تحصل مشغلي العقد على الأرباح من خلال تشغيل نموذج التحقق، ومعالجة التصريحات، وتقديم نتائج التحقق. تأتي هذه الأرباح من القيمة التي يتم إنشاؤها للعملاء، أي من تقليل معدل الأخطاء في مجالات مختلفة باستخدام الذكاء الاصطناعي. لمنع العقد من الاستجابة عشوائيًا، سيتم تقليل رموز الرهن للعقد التي تستمر في الانحراف عن الإجماع.

بشكل عام، تقدم ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. من خلال بناء شبكة تحقق من الإجماع اللامركزية على أساس نماذج الذكاء الاصطناعي المتعددة، تهدف ميرا إلى جلب موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، وتقليل التحيز والهلوسة في الذكاء الاصطناعي، وتلبية متطلبات الدقة والضبط العالي. لا توفر هذه الطريقة قيمة للعملاء فحسب، بل تجلب أيضًا فوائد لمشاركي شبكة ميرا، مما يعزز من تطوير تطبيقات الذكاء الاصطناعي بشكل أعمق.

حالياً، يمكن للمستخدمين المشاركة في شبكة Mira العامة للاختبار من خلال Klok (تطبيق دردشة قائم على LLM من Mira) وتجربة مخرجات الذكاء الاصطناعي المؤكدة، مع فرصة لكسب نقاط Mira. على الرغم من أن الاستخدامات المستقبلية للنقاط لم تُعلن بعد، إلا أن هذا بلا شك يوفر للمستخدمين فرصة لتجربة طبقة الثقة في الذكاء الاصطناعي بشكل مباشر.