Cashea busca un Ingeniero Senior de Seguridad de IA para probar, atacar y defender implementaciones de IA generativa, combinando perfiles ofensivos y defensivos. Se requiere experiencia en seguridad de aplicaciones y LLMs.
Si te apasiona la seguridad y la IA, este puesto en Cashea es para vos. Podrás poner a prueba y defender implementaciones de IA generativa, combinando perfiles ofensivos y defensivos. Ideal para quienes buscan un rol desafiante en una empresa en crecimiento.
Descripción del puesto
Somos Cashea 👋 y nuestra misión es devolverle a los venezolanos la oportunidad de acceder a crédito a través de un modelo de negocio BNPL (Buy Now, Pay Later). Desde nuestro lanzamiento en 2022, nos dedicamos a promover la inclusión financiera. Hoy contamos con más de 9 millones de usuarios activos, tanto consumidores como comercios, y nos hemos convertido en una marca de confianza en Venezuela, conquistando corazones y mentes. **Sobre el rol** El/la Senior AI Security Engineer es responsable de probar, atacar y defender las implementaciones de IA generativa de la compañía: productos de IA propietarios, plataformas internas, agentes, integraciones y asistentes de codificación. Combina un perfil ofensivo (prompt injection, jailbreaking, red teaming de LLM y agentes) con un perfil defensivo (guardrails, controles de entrada/salida, mejores prácticas y orientación a equipos). Trabaja con AppSec, DevSecOps, producto e ingeniería. **Responsabilidades** - Realizar red teaming y pruebas de penetración en implementaciones de IA: productos propietarios que usan LLMs, agentes, chatbots, asistentes de codificación y cualquier interfaz generativa. Esto incluye inyección directa e indirecta de prompts, jailbreaking, exfiltración de datos a través de salidas, fuga de prompts del sistema, agencia excesiva y mal uso de herramientas. - Evaluar la seguridad de los agentes de IA en producción: permisos, uso de herramientas, llamadas a funciones, plugins y capacidades de acción autónoma — identificar rutas de abuso y escenarios de "confused deputy" (doble agente). - Diseñar e implementar guardrails y controles defensivos basados en hallazgos ofensivos: validación de entrada/salida, filtrado de contenido, endurecimiento de prompts del sistema, controles de acceso contextuales y límites de acción para agentes. - Aplicar y operacionalizar controles del OWASP Top 10 para Aplicaciones LLM, OWASP Top 10 para Aplicaciones Agentic y MITRE ATLAS en los productos y plataformas de la organización. - Probar y validar la robustez de los guardrails existentes en plataformas internas y en productos que exponen IA a usuarios finales. - Desarrollar y mantener herramientas, scripts y automatizaciones para red teaming de LLM, enfocándose en pruebas continuas y repetibles. - Documentar hallazgos con playbooks de remediación accionables y apoyar a los equipos de desarrollo en la corrección y prevención de vulnerabilidades de IA. - Crear y mantener estándares de mejores prácticas para el desarrollo seguro con IA generativa: cómo construir agentes seguros, cómo integrar LLMs sin exponer datos, cómo realizar revisiones de código de IA generada. - Colaborar con el SOC para definir alertas y detecciones basadas en patrones de ataque contra LLMs y agentes. **Requisitos** - Más de 4 años en Application Security, Penetration Testing o Security Engineering con experiencia demostrable en pruebas ofensivas. - Sólido conocimiento de OWASP: Top 10 Web, Aplicaciones LLM, Seguridad de APIs. - Experiencia práctica atacando y/o defendiendo sistemas con LLMs e IA generativa: prompt injection, jailbreaking, exfiltración de datos, manipulación de salidas, prompt injection indirecta. - Comprensión de arquitecturas de IA generativa: cómo funciona un LLM, RAG, embeddings, function calling/tool use, context windows, system prompts, agentes autónomos. - Experiencia en seguridad de aplicaciones web y APIs. - Python para desarrollo de herramientas, scripts de prueba y automatización. - Capacidad para documentar hallazgos técnicos de forma clara y traducirlos en acciones concretas para los equipos de desarrollo. - Inglés avanzado. **¿Por qué te encantará trabajar en Cashea?** En Cashea, tenemos una cultura de trabajo basada en la confianza y el propósito. Si necesitas una pista de por qué somos una buena opción, estos son nuestros valores fundamentales: - No trabajamos en piloto automático. Todo lo que hacemos es intencional. Amamos desarrollar ideas con plena conciencia del impacto que pueden tener en nuestros usuarios. - Tu creatividad y curiosidad son nuestros activos más importantes. Tu voz importa. Escuchamos y damos espacio a ideas y comentarios. - Todos pertenecen, y lo que es importante para ti es importante para nosotros. - Valoramos la transparencia. La claridad nos mantiene conectados y con los pies en la tierra. - Por último, pero no menos importante, nos enfocamos en el impacto real. Si quieres trabajar con nosotros, completa la aplicación. ¡Nos encantaría conocerte!
Responsabilidades
- Realizar red teaming y pruebas de penetración en implementaciones de IA generativa.
- Evaluar la seguridad de agentes de IA en producción.
- Diseñar e implementar guardrails y controles defensivos.
- Aplicar y operacionalizar controles de OWASP y MITRE ATLAS.
- Probar y validar la robustez de los guardrails existentes.
- Desarrollar y mantener herramientas, scripts y automatizaciones para LLM red teaming.
- Documentar hallazgos con playbooks de remediación accionables.
- Crear y mantener estándares de mejores prácticas para el desarrollo seguro con IA generativa.
- Colaborar con el SOC para definir alertas y detecciones.