طبقة الثقة في الذكاء الاصطناعي: كيف تعالج شبكة ميرا مشاكل الوهم والتحيز في الذكاء الاصطناعي

مؤخراً، تم إطلاق شبكة اختبار عامة تُدعى Mira، وهدفها هو بناء أساس موثوق للذكاء الاصطناعي. وقد أثار هذا سؤالاً مهماً: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ كيف تحل Mira هذه المشكلة المعقدة؟

عند مناقشة الذكاء الاصطناعي، يميل الناس إلى التركيز أكثر على قدراته الكبيرة. ومع ذلك، فإن سؤالاً مثيراً للاهتمام ولكنه غالباً ما يتم تجاهله هو وجود "هلاوس" أو تحيزات في الذكاء الاصطناعي. ما يسمى بـ"هلاوس" الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحياناً "يتحدث بلا أساس"، ويبدو أنه يتحدث بثقة عن معلومات غير صحيحة. على سبيل المثال، عندما يُسأل عن سبب كون القمر وردي، قد يقدم الذكاء الاصطناعي سلسلة من التفسيرات التي تبدو معقولة ولكنها في الواقع بلا أساس.

ظهور "أوهام" أو تحيزات من قبل الذكاء الاصطناعي مرتبط ببعض المسارات التقنية الحالية للذكاء الاصطناعي. على سبيل المثال، يقوم الذكاء الاصطناعي التوليدي بتحقيق إخراج متماسك ومعقول من خلال توقع "الأكثر احتمالًا"، ولكن هذه الطريقة في بعض الأحيان يصعب التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، وكل هذه تؤثر على جودة إخراج الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية وليس الحقائق نفسها.

تؤدي آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة تقريبًا بشكل لا مفر منه إلى إنتاج الذكاء الاصطناعي للأوهام. قد لا تؤدي هذه المخرجات المتحيزة أو الوهمية، إذا كانت مقتصرة على المعرفة العامة أو المحتوى الترفيهي، إلى عواقب وخيمة على المدى القصير. ولكن إذا حدثت في مجالات مثل الطب أو القانون أو الطيران أو المالية، فقد يكون لها تأثير كبير. لذلك، أصبح حل مشكلات أوهام وتحيزات الذكاء الاصطناعي أحد التحديات الرئيسية في عملية تطوير الذكاء الاصطناعي.

حتى الآن، هناك بعض الطرق التي تحاول حل هذه المشكلة. يعتمد البعض على تقنيات تعزيز الاسترجاع، حيث تجمع بين الذكاء الاصطناعي وقواعد البيانات في الوقت الحقيقي، لتفضيل الإخراج الحقائق التي تم التحقق منها. بينما يقوم البعض الآخر بإدخال التغذية الراجعة البشرية، من خلال التوسيم والإشراف اليدوي لتصحيح أخطاء النموذج.

مشروع ميرا هو محاولة تهدف إلى حل مشكلات تحيز الذكاء الاصطناعي والوهم. إنه يحاول بناء طبقة من الثقة في الذكاء الاصطناعي وزيادة موثوقيته. فكيف تحقق ميرا هذا الهدف؟

مفهوم Mira الأساسي هو التحقق من مخرجات الذكاء الاصطناعي من خلال توافق عدة نماذج ذكاء اصطناعي. إنه في جوهره شبكة تحقق تستخدم الحكمة الجماعية للعديد من نماذج الذكاء الاصطناعي لتقييم موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أن Mira تعتمد آلية توافق لامركزية للتحقق.

إن التحقق من الإجماع اللامركزي هذا هو نقطة قوة في مجال التشفير، كما أنه يستفيد بشكل كامل من مزايا التعاون متعدد النماذج، من خلال نموذج التحقق الجماعي لتقليل التحيز والهلوسة. في ما يتعلق بهيكلية التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات يمكن التحقق منها بشكل مستقل. تحتاج هذه البيانات إلى مشاركة مشغلي العقد في التحقق، ولضمان نزاهة مشغلي العقد، يعتمد ميرا على آليات التحفيز والعقاب الاقتصادية المشفرة.

تتضمن بنية شبكة ميرا تحويل المحتوى والتحقق الموزع وآلية الإجماع. أولاً، يقوم النظام بتفكيك المحتوى المرشح إلى بيانات قابلة للتحقق مختلفة، يتم توزيع هذه البيانات على العقد للتحقق منها، ثم يتم تجميع النتائج للتوصل إلى توافق. لحماية خصوصية العملاء، يتم توزيع البيانات بشكل عشوائي إلى شظايا مختلفة على العقد.

تتحمل مشغلات العقد مسؤولية تشغيل نموذج التحقق، ومعالجة الإعلانات وتقديم نتائج التحقق. تأتي حوافزهم للمشاركة في التحقق من إمكانية تحقيق الأرباح. هذه الأرباح تأتي من القيمة التي يتم إنشاؤها للعملاء، أي تقليل معدل أخطاء الذكاء الاصطناعي. في مجالات مثل الطب، القانون، الطيران، والمالية، يمكن أن يؤدي تقليل معدل الأخطاء إلى قيمة كبيرة، لذلك يكون العملاء مستعدين لدفع ثمن ذلك. لمنع مشغلي العقد من التلاعب، سيتم تقليل رموز الرهن للعقد التي تبتعد بشكل مستمر عن الإجماع.

بشكل عام، تقدم ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي. إنها تبني شبكة تحقق لامركزية على أساس نماذج متعددة من الذكاء الاصطناعي، مما يجلب موثوقية أعلى لخدمات الذكاء الاصطناعي للعملاء، ويقلل من تحيزات الذكاء الاصطناعي والأوهام، لتلبية الحاجة إلى دقة أعلى ومعدل دقة أكبر. في الوقت نفسه، توفر أيضًا عوائد للمشاركين في الشبكة. باختصار، تحاول ميرا بناء طبقة ثقة للذكاء الاصطناعي، مما سيساعد في دفع تطوير تطبيقات الذكاء الاصطناعي بشكل أعمق.

حاليًا، يمكن للمستخدمين المشاركة في شبكة Mira العامة للاختبار من خلال تطبيق Klok. Klok هو تطبيق دردشة يعتمد على Mira، حيث يمكن للمستخدمين تجربة مخرجات الذكاء الاصطناعي المعتمدة، ولديهم فرصة لكسب نقاط Mira. على الرغم من أن الاستخدامات المستقبلية للنقاط لم تُعلن بعد، إلا أن هذا بلا شك يوفر للمستخدمين فرصة لتجربة عملية التحقق من الذكاء الاصطناعي بشكل مباشر.