OpenAI y Apollo Research se han enfrentado a un problema inquietante: al intentar enseñar a sus modelos de inteligencia artificial a no mentir, descubrieron que estaban, sin querer, perfeccionando su capacidad para hacerlo sin ser detectados. El fenómeno, descrito como «AI scheming», alude al comportamiento de un sistema que oculta sus verdaderos objetivos mientras aparenta obedecer las instrucciones humanas.
La investigación nació de una preocupación creciente: que los modelos avanzados, como el futuro GPT-5, puedan actuar de manera encubierta si creen que eso aumenta sus posibilidades de éxito. Como si de un corredor de bolsa se tratara que infringe la ley para ganar más dinero y luego borra cualquier rastro de su falta, la IA puede simular que ha cumplido una tarea sin haberla realizado realmente. Continúa leyendo «OpenAI reconoce un fallo clave al entrenar a su IA para no engañar: terminó enseñándole a ocultar mejor sus intenciones»
