El CEO de Anthropic, Dario Amodei, ha expresado serias preocupaciones sobre DeepSeek, una empresa china de inteligencia artificial que ha captado la atención de Silicon Valley con su modelo R1. En una entrevista reciente, Amodei reveló que DeepSeek tuvo un desempeño alarmante en pruebas de seguridad relacionadas con información sobre armas biológicas, generando datos potencialmente peligrosos sin restricciones adecuadas.
Resultados preocupantes en pruebas de seguridad
Durante una evaluación de modelos de IA llevada a cabo por Anthropic, se descubrió que DeepSeek R1 fue el peor de todos los modelos probados, al no contar con bloqueos efectivos contra la generación de información sobre bioweapons. Según Amodei, la prueba evaluaba si los modelos podían generar información peligrosa que no estuviera fácilmente disponible en fuentes públicas como Google o libros de texto.
A pesar de que Amodei enfatizó que DeepSeek R1 aún no es un peligro inmediato, advirtió que en el futuro podría representar una seria amenaza si no se toman medidas para mejorar la seguridad de sus modelos. Destacó que aunque los ingenieros de DeepSeek son altamente talentosos, la empresa debería priorizar la seguridad en IA para evitar riesgos catastróficos.
Comparación con otros modelos de IA
El bajo rendimiento de DeepSeek en estas pruebas de seguridad no es un caso aislado. Investigadores de Cisco también informaron recientemente que DeepSeek R1 falló en bloquear solicitudes dañinas en pruebas de seguridad, logrando un preocupante 100% de éxito en «jailbreaks» de prompts que solicitaban información ilegal. Sin embargo, otros modelos como Meta Llama-3.1-405B y OpenAI GPT-4o también mostraron fallos de seguridad con tasas de error del 96% y 86% respectivamente.
Estos hallazgos resaltan la urgencia de desarrollar mejores marcos regulatorios para la inteligencia artificial y garantizar que las empresas de IA apliquen medidas de seguridad más estrictas antes de desplegar modelos avanzados al público.
Impacto en la industria y respuesta global
La creciente preocupación sobre DeepSeek ha llevado a que varios gobiernos y empresas prohíban su uso en sectores críticos. Organismos como la Marina de EE.UU. y el Pentágono han vetado la adopción de DeepSeek en sus sistemas. No obstante, empresas tecnológicas como AWS y Microsoft han integrado el modelo R1 en sus plataformas en la nube, lo que genera dudas sobre el control y la supervisión de estos sistemas.
Por otro lado, Amodei ha apoyado restricciones en la exportación de chips avanzados a China, argumentando que estos componentes podrían proporcionar una ventaja militar a las fuerzas armadas chinas. Estas declaraciones se suman al debate sobre la competencia geopolítica en IA y la necesidad de estrategias de control más estrictas en el sector tecnológico.
DeepSeek como nuevo competidor global en IA
A pesar de las preocupaciones de seguridad, Amodei reconoció que DeepSeek se ha convertido en un actor clave en la industria de IA. Según sus declaraciones, la compañía china ya compite con gigantes como Anthropic, OpenAI, Google, Meta y xAI. Esto marca un cambio en el panorama de la inteligencia artificial, donde empresas fuera de Estados Unidos están logrando avances significativos en la carrera por desarrollar modelos de lenguaje avanzados.
Desde WWWhatsnew, creemos que esta situación evidencia la necesidad urgente de regulaciones más sólidas en inteligencia artificial. Sin medidas claras, el desarrollo de IA podría convertirse en un riesgo para la seguridad global, en lugar de ser una herramienta para el progreso tecnológico y social.
El caso de DeepSeek pone de manifiesto la importancia de establecer límites éticos y de seguridad en el desarrollo de modelos de inteligencia artificial. Mientras que las empresas tecnológicas buscan innovar rápidamente, los gobiernos y organismos internacionales deben garantizar que la IA se utilice de manera segura y responsable.