Google Cloud lanza AI Protection, una suite de seguridad para la gestión de riesgos en inteligencia artificial
Google Cloud presenta AI Protection, una innovadora suite de seguridad que aborda riesgos en inteligencia artificial, garantizando la protección de datos y cargas de trabajo.
Google Cloud ha lanzado AI Protection, una suite de características de seguridad diseñada para mitigar los riesgos asociados con las cargas de trabajo y datos de inteligencia artificial (IA), sin importar la plataforma utilizada. Esta nueva oferta proporcionará a las empresas una vista centralizada de su situación en materia de seguridad de IA, permitiéndoles gestionar los riesgos y detectar amenazas antes de que se conviertan en problemas.
"A medida que el uso de la IA aumenta, la seguridad sigue siendo una preocupación principal, y a menudo escuchamos que las organizaciones están preocupadas por los riesgos que pueden surgir con la adopción rápida," comentó Archana Ramamoorthy, Directora Senior de Gestión de Productos en Google Cloud Security. "Google Cloud está comprometido a ayudar a nuestros clientes a construir y desplegar IA de manera segura, conforme a la normativa y privada." AI Protection estará integrada en el Centro de Mando de Seguridad (SCC), proporcionando un sistema centralizado de gestión de la seguridad de IA junto con otros riesgos en la nube.
Entre las capacidades fundamentales de esta nueva plataforma se encuentran el Descubrimiento de Inventario de IA, que identifica y evalúa los activos de IA en busca de vulnerabilidades; la Seguridad de Activos de IA, que implementa controles, políticas y medidas de seguridad para proteger los recursos de IA; y la Gestión de Amenazas, que ofrece mecanismos de detección, investigación y respuesta a amenazas relacionadas con la IA.
Además, Google Cloud ha explicado que sus Mejora en la Protección de Datos Sensibles ahora se extiende a los conjuntos de datos de Vertex AI, lo que permite el descubrimiento y la clasificación automática de datos sensibles de entrenamiento y ajuste. Tras descubrir datos sensibles, AI Protection utilizará el equipo virtual de red interno del SCC para identificar posibles rutas de ataque en los sistemas de IA y sugerir pasos de remediación.
Google Cloud también ha anunciado que Model Armor, una capacidad central de AI Protection, ya está disponible en general. Está diseñado para proteger contra inyecciones de comandos, ataques de jailbreak, pérdida de datos y contenido ofensivo. Puede integrarse en aplicaciones a través de API REST, Apigee, y próximamente en Vertex AI.
Por último, AI Protection operativizará la inteligencia de seguridad y la investigación provenientes tanto de Google como de Mandiant para ayudar a defender los sistemas de IA. Los intentos de acceso inicial, escalada de privilegios y intentos de persistencia en las cargas de trabajo de IA pueden ser detectados a través del SCC, mientras que nuevos detectores para AI Protection, basados en la inteligencia más reciente de la línea del frente, "llegarán pronto". Estos ayudarán a identificar y gestionar amenazas en tiempo de ejecución, como el secuestro de modelos fundamentales.