Mimub Defendiendo Aplicaciones De GenAI Contra Ataques De Inyección De Prompts

Compartir en X (Twitter)Compartir en FacebookCompartir en PinterestCompartir en EmailCompartir en WhatsApp

El 24 de abril de 2025, a las 12 p.m. EST, se llevará a cabo un evento en línea dedicado a abordar la seguridad de las aplicaciones de inteligencia artificial generativa frente a ataques de inyección de comandos. Este seminario, que se presenta como una respuesta a la creciente preocupación por la integridad de los sistemas de IA en el ámbito empresarial, contará con la participación de Rob Truesdell, Chief Product Officer de Pangea.

Con el auge de la inteligencia artificial generativa en la transformación de aplicaciones y flujos de trabajo, también han surgido nuevas tácticas de los atacantes. Estos buscan aprovechar los modelos de lenguaje para filtrar datos sensibles y eludir controles de seguridad, lo que hace imprescindible el desarrollo de estrategias de protección eficaces.

Durante la sesión, se explorará el panorama actual de las amenazas relacionadas con la inyección de comandos, proporcionando a los asistentes no solo un entendimiento profundo de cómo funcionan estos ataques, sino también ejemplos realmente ilustrativos de técnicas utilizadas por los adversarios. Se abordarán tanto las amenazas internas como externas, destacando cómo los atacantes pueden manipular modelos de IA desde dentro de una organización, así como desde el exterior.

El evento se centrará en ofrecer estrategias de mitigación de riesgos y mejores prácticas en ingeniería y seguridad, cruciales para prevenir, detectar y responder ante intentos de inyección de comandos. Además, se presentarán pautas para evaluar la efectividad de los mecanismos de detección ante estos ataques.

Dirigido a líderes de seguridad, ingenieros de inteligencia artificial y equipos de producto, este seminario promete ser un recurso valioso para aquellos que buscan comprender y minimizar los riesgos asociados con las aplicaciones impulsadas por IA en un entorno cada vez más hostil. Para quienes no puedan asistir en la fecha programada, se ofrecerá la opción de registrarse para recibir una grabación de la sesión directamente en su correo electrónico.