Atlas, el nuevo navegador con inteligencia artificial presentado por OpenAI, nació con la promesa de facilitar tareas en línea gracias a su capacidad de actuar como un agente autónomo. Sin embargo, apenas días después de su lanzamiento, expertos en ciberseguridad ya han detectado serias vulnerabilidades, especialmente frente a los llamados ataques por inyección de prompts. Esta situación vuelve a encender las alarmas sobre los riesgos que implica dar mayor autonomía a los sistemas de IA en contextos donde está en juego la privacidad y la seguridad de los usuarios. Continúa leyendo «OpenAI Atlas: el navegador con IA que ya preocupa por su vulnerabilidad a ataques»
Etiqueta: seguridad en inteligencia artificial
Character en la mira: publicidad directa a menores y su cuestionable seguridad
En el mundo de la inteligencia artificial, los chatbots han evolucionado hasta convertirse en herramientas de interacción sumamente sofisticadas. Sin embargo, la reciente polémica en torno a Character.AI pone sobre la mesa un problema crítico: la seguridad de los menores en estas plataformas. A pesar de haber prometido medidas más estrictas, la compañía ha sido señalada por continuar recomendando chatbots perturbadores a adolescentes, poniendo en duda su compromiso con la protección infantil.
Continúa leyendo «Character en la mira: publicidad directa a menores y su cuestionable seguridad»
Anthropic acelera la evolución de Claude: ¿Qué viene para el futuro de la IA?
En el dinámico mundo de la inteligencia artificial, la evolución de los modelos es constante, y Anthropic se ha destacado por mantenerse en la cima de esta transformación. Recientemente, Dario Amodei, CEO de la compañía, compartió detalles fascinantes sobre los próximos pasos para Claude, su línea de modelos de IA. Desde nuevas funcionalidades hasta estrategias de escalamiento, la visión de Anthropic promete revolucionar el panorama de la IA generativa.
Continúa leyendo «Anthropic acelera la evolución de Claude: ¿Qué viene para el futuro de la IA?»