Etiqueta: bioweapons

Más preocupaciones sobre la seguridad de DeepSeek en la industria de IA

Publicado el

por Natalia Polo

El CEO de Anthropic, Dario Amodei, ha expresado serias preocupaciones sobre DeepSeek, una empresa china de inteligencia artificial que ha captado la atención de Silicon Valley con su modelo R1. En una entrevista reciente, Amodei reveló que DeepSeek tuvo un desempeño alarmante en pruebas de seguridad relacionadas con información sobre armas biológicas, generando datos potencialmente peligrosos sin restricciones adecuadas.

Continúa leyendo «Más preocupaciones sobre la seguridad de DeepSeek en la industria de IA»

Anthropic refuerza la seguridad de la IA con su política de escalamiento responsable

Publicado el

por Juan Diego Polo

La inteligencia artificial ha avanzado rápidamente en los últimos años, y con ello han crecido los riesgos asociados a su uso inadecuado o malintencionado. Anthropic, la compañía detrás de Claude, un chatbot cada vez más popular, ha decidido no quedarse de brazos cruzados frente a estos desafíos. Recientemente, han actualizado su política de escalamiento responsable (RSP), introducida por primera vez en 2023, con nuevas medidas diseñadas para garantizar que sus modelos de IA se desarrollen y utilicen de manera segura.

Continúa leyendo «Anthropic refuerza la seguridad de la IA con su política de escalamiento responsable»