OpenAI despidió a un empleado por su actividad en mercados de predicción como Polymarket, tras detectar que habría utilizado información confidencial de la compañía para respaldar sus operaciones. La empresa confirmó a Wired que la conducta infringía una política interna que prohíbe aprovechar datos no públicos para obtener un beneficio personal. El caso llama la… Continúa leyendo »
Auditor de IA: el nuevo perfil que vigila el comportamiento de los modelos en la empresa
La figura del auditor de IA se parece bastante a la de un auditor financiero, con un giro importante: no revisa movimientos de dinero, sino “movimientos” de un sistema inteligente. Su trabajo consiste en observar cómo se comporta un modelo o un agente cuando recibe solicitudes, accede a herramientas, consulta datos, toma decisiones y genera respuestas. Dicho de forma cotidiana, es como quien supervisa una cocina industrial: no solo prueba el plato final, también revisa si se respetaron las recetas, si la cadena de frío se mantuvo y si nadie entró en la despensa sin permiso.
Según expone ZDNET en un artículo firmado por Joe McKendrick, este rol emerge porque la inteligencia artificial se ha vuelto ubicua en procesos de negocio, pero también trae riesgos recurrentes: alucinaciones, sesgos, caída de calidad por deriva del modelo, uso de datos deficientes y respuestas de baja calidad. Cuando un sistema se integra en atención al cliente, finanzas, recursos humanos o salud, un error no es solo “una mala respuesta”: puede convertirse en una decisión errónea con impacto legal, reputacional o humano. Continúa leyendo «Auditor de IA: el nuevo perfil que vigila el comportamiento de los modelos en la empresa»
