Capa de confianza de la IA: cómo la red Mira resuelve los problemas de ilusión y sesgo de la IA

Recientemente, se lanzó oficialmente una red de prueba pública llamada Mira, cuyo objetivo es construir una base confiable para la inteligencia artificial. Esto ha planteado una pregunta importante: ¿por qué se necesita confiar en la IA? ¿Cómo aborda Mira este complejo problema?

Al discutir la IA, a menudo las personas se centran más en su poderosa capacidad. Sin embargo, una cuestión interesante pero a menudo pasada por alto es la "ilusión" o sesgo que existe en la IA. Lo que se denomina "ilusión" de la IA, en términos simples, es que a veces la IA puede "hablar sin fundamento", afirmando con aparente certeza información que no es cierta. Por ejemplo, cuando se le pregunta por qué la luna es rosa, la IA puede ofrecer una serie de explicaciones que parecen razonables pero que en realidad no tienen fundamento.

La aparición de estas "ilusiones" o sesgos en la IA está relacionada con algunas de las rutas tecnológicas actuales de la IA. Por ejemplo, la IA generativa logra una salida coherente y razonable al predecir el contenido "más probable", pero este método a veces es difícil de verificar en cuanto a su veracidad. Además, los datos de entrenamiento en sí mismos pueden contener errores, sesgos e incluso contenido ficticio, lo que afecta la calidad de la salida de la IA. En otras palabras, la IA aprende patrones de lenguaje humano, no hechos en sí.

El mecanismo actual de generación de probabilidades y el modelo impulsado por datos casi inevitablemente conducen a que la IA genere alucinaciones. Estas salidas sesgadas o ilusorias, si se limitan a contenido de conocimiento general o entretenimiento, pueden no causar consecuencias graves temporalmente. Pero si ocurren en campos altamente rigurosos como la medicina, el derecho, la aviación o las finanzas, pueden tener un impacto significativo. Por lo tanto, abordar el problema de las alucinaciones y sesgos de la IA se ha convertido en uno de los desafíos centrales en el proceso de desarrollo de la IA.

Actualmente, existen algunos métodos que intentan resolver este problema. Algunos utilizan técnicas de generación mejorada por recuperación, combinando IA con bases de datos en tiempo real para priorizar la salida de hechos verificados. Otros introducen retroalimentación humana, corrigiendo los errores del modelo a través de anotaciones y supervisión manual.

El proyecto Mira es un intento de abordar el problema de sesgos y alucinaciones en la IA. Intenta construir una capa de confianza en la IA para mejorar su fiabilidad. Entonces, ¿cómo logra Mira este objetivo?

La filosofía central de Mira es validar las salidas de la IA a través del consenso de múltiples modelos de IA. Es esencialmente una red de validación que utiliza la sabiduría colectiva de varios modelos de IA para evaluar la fiabilidad de las salidas de la IA. Más importante aún, Mira utiliza un mecanismo de consenso descentralizado para la validación.

Esta validación de consenso descentralizado es una fortaleza en el campo de las criptomonedas y también aprovecha plenamente las ventajas de la colaboración multimodal, reduciendo sesgos y ilusiones a través de un modelo de validación colectiva. En términos de arquitectura de validación, el protocolo Mira admite la conversión de contenido complejo en declaraciones que pueden ser verificadas de forma independiente. Estas declaraciones requieren la participación de operadores de nodos en la validación, y para garantizar la honestidad de los operadores de nodos, Mira utiliza incentivos económicos criptográficos y mecanismos de penalización.

La arquitectura de la red de Mira incluye conversión de contenido, verificación distribuida y un mecanismo de consenso. Primero, el sistema descompone el contenido candidato en diferentes declaraciones verificables, las cuales son distribuidas a los nodos para su verificación, y luego se sintetizan los resultados para alcanzar un consenso. Para proteger la privacidad del cliente, las declaraciones se distribuirán a diferentes nodos de manera aleatoria.

Los operadores de nodos son responsables de ejecutar modelos de validación, procesar declaraciones y presentar resultados de validación. Su motivación para participar en la validación proviene de la posibilidad de obtener ganancias. Estas ganancias se derivan del valor creado para los clientes, es decir, la reducción de la tasa de error de la IA. En campos como la medicina, el derecho, la aviación y las finanzas, reducir la tasa de error puede generar un valor enorme, por lo que los clientes están dispuestos a pagar por ello. Para evitar que los operadores de nodos actúen de manera especulativa, los nodos que se desvían continuamente del consenso verán reducidos sus tokens de participación.

En general, Mira ofrece un nuevo enfoque para lograr la confiabilidad de la IA. Se basa en múltiples modelos de IA para construir una red de validación de consenso descentralizada, lo que aporta mayor confiabilidad a los servicios de IA de los clientes, reduce los sesgos y alucinaciones de la IA, y satisface la demanda de mayor precisión y exactitud. Al mismo tiempo, también proporciona beneficios a los participantes de la red. En resumen, Mira está tratando de construir una capa de confianza para la IA, lo que ayudará a impulsar el desarrollo profundo de las aplicaciones de IA.

Actualmente, los usuarios pueden participar en la red de prueba pública de Mira a través de la aplicación Klok. Klok es una aplicación de chat LLM basada en Mira, donde los usuarios pueden experimentar salidas de IA verificadas y tener la oportunidad de ganar puntos Mira. Aunque los usos futuros de los puntos no se han anunciado, esto sin duda proporciona a los usuarios la oportunidad de experimentar de primera mano el proceso de verificación de IA.