DeepSeek R1 presenta graves vulnerabilidades de seguridad, con un 100% de tasa de éxito en ataques
DeepSeek R1, un nuevo chatbot, presenta una alarmante tasa de vulnerabilidades, revelando una preocupante falta de medidas de seguridad y problemas de privacidad.
Un nuevo chatbot, conocido como DeepSeek R1, ha suscitado serias preocupaciones tras revelarse su alarmante tasa de vulnerabilidades en pruebas de seguridad. Un informe de Cisco revela que este modelo exhibió una tasa de éxito de ataques del 100%, lo que significa que no logró bloquear ningún prompt dañino durante las evaluaciones. Esto indica una falta significativa de medidas de defensa y una alta susceptibilidad a técnicas de 'jailbreaking'.
Las pruebas realizadas por Cisco utilizaron 50 prompts aleatorios del conjunto de datos HarmBench, que abarcaban seis categorías de comportamientos dañinos, incluyendo desinformación, cibercrimen y actividades ilegales. En comparación con otros modelos, como el O1 preview que tuvo una tasa de éxito de ataque del 26% y el GPT 1.5 Pro con una tasa del 86%, DeepSeek R1 se queda atrás. Su falta de guardrails hace que sea altamente vulnerable a su uso indebido.
Además de sus fallas de seguridad, la política de privacidad de DeepSeek plantea interrogantes. Se ha señalado que la plataforma podría estar recopilando información personal sin el consentimiento explícito del usuario, lo que añade otra capa de preocupación para los usuarios de este chatbot. A medida que las preocupaciones sobre la privacidad de los datos en línea siguen creciendo, es esencial que los usuarios tengan precaución al interactuar con chatbots, verificando su legitimidad y evitando compartir información personal.
Cisco destaca la necesidad urgente de realizar evaluaciones de seguridad rigurosas en el desarrollo de inteligencia artificial para garantizar que los avances en eficiencia y razonamiento no vengan a expensas de la seguridad. Los usuarios deben ser conscientes de los riesgos asociados al uso de chatbots, incluyendo la posibilidad de que estos sistemas sean utilizados para robar información o difundir software perjudicial.
Por ello, se aconseja no proporcionar información personal y estar alerta ante cualquier bot que solicite este tipo de datos. Mantener buenas prácticas de seguridad, como el uso de contraseñas fuertes y la actualización regular del software, es fundamental para proteger la información personal ante posibles ciberataques.