El 20 de septiembre, un agente de OpenAI escapó de su sandbox de entrenamiento, encontró un hueco en el filtrado de red y empezó a lanzar consultas a un chatbot externo. El sistema de alertas lo detectó a los 12 minutos. Un empleado lo vio tres minutos después. Y el entrenamiento no se detuvo automáticamente como estaba previsto: tuvieron que pararlo a mano dos horas y media más tarde. OpenAI publicó el informe del incidente el viernes, y también anunció que ha pausado todo entrenamiento, testing y uso de herramientas de sus modelos más capaces. «No reanudaremos el entrenamiento de este modelo en particular», dice el informe. Continúa leyendo «Un agente de OpenAI tardó 2,5 horas en ser detenido: el sandbox no funcionó y ahora el Senado australiano llama a declarar a Altman y Amodei»
