Camada de Confiança da IA: Como a Rede Mira Resolve Problemas de Ilusão e Preconceito da IA

Recentemente, uma rede de testes públicos chamada Mira foi oficialmente lançada, com o objetivo de construir uma base confiável para a inteligência artificial. Isso levanta uma questão importante: por que a IA precisa ser confiável? Como é que a Mira resolve esse complexo problema?

Ao discutir a IA, as pessoas costumam se concentrar mais em sua poderosa capacidade. No entanto, uma questão interessante, mas frequentemente negligenciada, é a existência de "ilusões" ou preconceitos na IA. O que se entende por "ilusões" da IA é, de forma simples, que a IA às vezes "fala ao acaso", afirmando com certeza informações que são falsas. Por exemplo, quando perguntada por que a lua é rosa, a IA pode fornecer uma série de explicações que parecem razoáveis, mas que na verdade não têm fundamento.

A "ilusão" ou preconceito que a IA apresenta está relacionado a algumas das atuais trajetórias tecnológicas da IA. Por exemplo, a IA generativa alcança saídas coerentes e razoáveis ao prever o conteúdo "mais provável", mas esse método às vezes é difícil de verificar a veracidade. Além disso, os dados de treinamento podem conter erros, preconceitos ou até mesmo conteúdos fictícios, que afetam a qualidade da saída da IA. Em outras palavras, a IA aprende os padrões linguísticos humanos, e não os fatos em si.

O atual mecanismo de geração de probabilidades e o modelo orientado a dados quase inevitavelmente levam a AI a produzir alucinações. Essas saídas tendenciosas ou alucinatórias, se limitadas ao conhecimento geral ou a conteúdo de entretenimento, podem não causar consequências graves temporariamente. Mas se ocorrerem em áreas altamente rigorosas como saúde, direito, aviação e finanças, podem ter um impacto significativo. Portanto, resolver os problemas de alucinação e viés da AI tornou-se um dos desafios centrais no processo de desenvolvimento da AI.

Atualmente, existem alguns métodos que tentam resolver este problema. Alguns utilizam técnicas de geração aumentada por recuperação, combinando IA com bases de dados em tempo real, priorizando a saída de fatos verificados. Outros introduzem feedback humano, corrigindo erros do modelo através de rotulagem e supervisão humanas.

O projeto Mira é uma tentativa de resolver problemas de viés e alucinação em IA. Ele busca construir uma camada de confiança para a IA, aumentando a sua fiabilidade. Então, como é que o Mira alcança esse objetivo?

A ideia central da Mira é validar as saídas de IA através do consenso de múltiplos modelos de IA. Essencialmente, é uma rede de validação que utiliza a sabedoria coletiva de vários modelos de IA para avaliar a confiabilidade das saídas de IA. Mais importante ainda, a Mira adota um mecanismo de consenso descentralizado para validação.

Este consenso de validação descentralizada é uma força no campo das criptomoedas, ao mesmo tempo que aproveita plenamente as vantagens da colaboração entre múltiplos modelos, reduzindo preconceitos e ilusões através de um modo de validação coletivo. Em termos de arquitetura de validação, o protocolo Mira suporta a conversão de conteúdos complexos em declarações que podem ser verificadas de forma independente. Estas declarações requerem a participação dos operadores de nós na validação e, para garantir a honestidade dos operadores de nós, o Mira utiliza incentivos econômicos criptográficos e um mecanismo de penalização.

A arquitetura de rede da Mira inclui conversão de conteúdo, validação distribuída e mecanismo de consenso. Primeiro, o sistema decompõe o conteúdo candidato em diferentes declarações verificáveis, que são distribuídas para os nós para validação, e então os resultados são consolidados para alcançar consenso. Para proteger a privacidade do cliente, as declarações serão distribuídas aleatoriamente em fragmentos para diferentes nós.

Os operadores de nós são responsáveis por executar o modelo de validador, processar declarações e submeter resultados de validação. A sua motivação para participar na validação vem da possibilidade de obter ganhos. Esses ganhos são provenientes do valor criado para os clientes, ou seja, a redução da taxa de erro da IA. Em áreas como saúde, direito, aviação e finanças, a redução da taxa de erro pode gerar um valor imenso, pelo que os clientes estão dispostos a pagar por isso. Para evitar que os operadores de nós especulem, nós que se afastam continuamente do consenso terão seus tokens em stake reduzidos.

De um modo geral, a Mira oferece uma nova abordagem para garantir a confiabilidade da IA. Ela constrói uma rede de validação de consenso descentralizada baseada em múltiplos modelos de IA, trazendo maior confiabilidade aos serviços de IA dos clientes, reduzindo preconceitos e alucinações da IA, para atender à demanda por maior precisão e exatidão. Ao mesmo tempo, também gera benefícios para os participantes da rede. Em resumo, a Mira está tentando construir uma camada de confiança para a IA, que ajudará a impulsionar o desenvolvimento mais profundo das aplicações de IA.

Atualmente, os usuários podem participar da rede de testes pública Mira através do aplicativo Klok. Klok é um aplicativo de chat LLM baseado em Mira, onde os usuários podem experimentar saídas de IA verificadas e ter a oportunidade de ganhar pontos Mira. Embora os futuros usos dos pontos ainda não tenham sido anunciados, isso sem dúvida oferece aos usuários uma oportunidade de vivenciar o processo de validação da IA.