En un esfuerzo por promover el uso ético y socialmente aceptable de la inteligencia artificial generativa y los modelos de lenguaje amplio (LLM), Mozilla organizó el «Desafío de IA Responsable». Este desafío tenía como objetivo impulsar soluciones de IA confiables que sirvieran a toda la sociedad en lugar de beneficiar exclusivamente a mega-corporaciones codiciosas o individuos extremadamente ricos. Ahora, tras un exhaustivo proceso de revisión, la fundación Firefox ha anunciado a los ganadores de los premios principales del desafío, quienes recibirán financiamiento para llevar sus proyectos al mercado.
Sanative AI se lleva el primer premio con su innovadora tecnología anti-AI watermark
Después de una cuidadosa deliberación por parte de un panel de jueces compuesto por académicos, desarrolladores y emprendedores de IA, Mozilla ha elegido a Sanative AI como ganador del primer premio, otorgándoles una recompensa de $50,000. Esta empresa está desarrollando una solución revolucionaria llamada «anti-AI watermark», diseñada para proteger imágenes y obras de arte originales de ser utilizadas de manera abusiva como datos de entrenamiento para algoritmos de IA generativos y modelos de difusión.
La tecnología «adversarial AI tools» de Sanative AI
Sanative AI ha creado herramientas de IA adversarial que actúan como salvaguardias contra la explotación por parte de aplicaciones de IA. Su primer producto consiste en una tecnología que aplica un «pequeño» ruido visual a las imágenes cargadas en internet. Este ruido tiene un impacto visual mínimo o incluso invisible en las imágenes mencionadas, pero confunde los algoritmos de aprendizaje automático, lo que da como resultado resultados «distorsionados».
Kwanele Chat Bot y Nolano también son reconocidos por sus soluciones de IA responsable
El segundo premio del Desafío de IA Responsable de Mozilla, con una recompensa de $30,000, fue para Kwanele Chat Bot. Esta tecnología ha sido diseñada para proteger a las mujeres que viven en comunidades violentas, proporcionándoles acceso rápido a ayuda y garantizando la recopilación de evidencia «admisible». Esta innovadora solución busca brindar apoyo y seguridad a las mujeres en situaciones peligrosas.
Por otro lado, el tercer premio, dotado con $20,000, fue otorgado a Nolano, un modelo de lenguaje recién entrenado que utiliza procesamiento de lenguaje natural para ejecutar LLM en máquinas locales (sin conexión) como laptops o teléfonos inteligentes. Esta propuesta se centra en permitir el uso de modelos de lenguaje amplio sin depender de una conexión a internet, brindando así mayor accesibilidad y autonomía a los usuarios.
Apoyo y oportunidades adicionales para los ganadores del Desafío de IA Responsable
Además de los premios en efectivo, los tres ganadores del Desafío de IA Responsable recibirán mentoría por parte de líderes de la industria de IA y tecnología. También tendrán acceso a los recursos y comunidades de Mozilla mientras continúan desarrollando y perfeccionando sus proyectos. Britney Crooks, Directora de Innovación y Estrategia de Productos de Mozilla, mencionó que el proceso de evaluación fue concebido para ser motivador para todos los participantes, inspirándolos a seguir desarrollando soluciones de IA responsables incluso si no resultaron ganadores.
Fuente: Blog de Mozilla