Categorías
···
Entrar / Registro
Resumen: Este puesto implica realizar pruebas de equipo rojo sobre modelos de IA conversacional, generar datos humanos de alta calidad para identificar vulnerabilidades y documentar casos de ataque reproducibles. Aspectos destacados: 1. Realizar pruebas de equipo rojo sobre modelos y agentes de IA conversacional 2. Generar datos humanos de alta calidad para hacer la IA más segura 3. Descubrir vulnerabilidades que las pruebas automatizadas pasan por alto **Modalidad de trabajo:** Teletrabajo **Tipo de colaboración:** Contratista independiente **Horario:** Contrato a tiempo completo o a tiempo parcial **Este puesto existe** Creemos que la IA más segura es aquella que ya ha sido atacada — por nosotros. Estamos constituyendo un equipo rojo para este proyecto: expertos humanos en datos que someten los modelos de IA a entradas adversarias, identifican vulnerabilidades y generan los datos del equipo rojo que hacen la IA más segura para nuestros clientes. Este proyecto implica revisar salidas de IA que abordan temas sensibles como sesgos, desinformación o comportamientos dañinos. Todo el trabajo es textual, y la participación en proyectos de mayor sensibilidad es opcional y cuenta con directrices claras y recursos de bienestar. Antes de exponerse a cualquier contenido, se comunicarán explícitamente los temas correspondientes. **Sus responsabilidades** * Realizar pruebas de equipo rojo sobre modelos y agentes de IA conversacional: escapadas (jailbreaks), inyecciones de indicaciones (prompt injections), casos de uso indebido, explotación de sesgos, manipulación multi-turno * Generar datos humanos de alta calidad: anotar fallos, clasificar vulnerabilidades y señalar riesgos sistémicos * Aplicar estructura: seguir taxonomías, referencias comparativas (benchmarks) y manuales operativos para mantener la coherencia en las pruebas * Documentar de forma reproducible: elaborar informes, conjuntos de datos y casos de ataque sobre los que los clientes puedan actuar **Perfil ideal** * Posee experiencia previa en pruebas de equipo rojo (trabajo adversario con IA, ciberseguridad, exploración socio-técnica) * Es curioso y adversario: intuitivamente lleva los sistemas hasta sus límites de ruptura * Es estructurado: utiliza marcos metodológicos o referencias comparativas (benchmarks), no solo ataques aleatorios * Es comunicativo: explica claramente los riesgos tanto a partes interesadas técnicas como no técnicas * Es adaptable: prospera al cambiar entre distintos proyectos y clientes **Conocimientos complementarios deseables** * Aprendizaje automático adversario: conjuntos de datos para escapadas (jailbreak), inyección de indicaciones (prompt injection), ataques RLHF/DPO, extracción de modelos * Ciberseguridad: pruebas de penetración, desarrollo de exploits, ingeniería inversa * Riesgo socio-técnico: exploración de acoso/desinformación, análisis de abuso, pruebas de IA conversacional * Exploración creativa: psicología, interpretación, redacción para un pensamiento adversario poco convencional **Qué significa el éxito** * Identifica vulnerabilidades que las pruebas automatizadas pasan por alto * Entrega artefactos reproducibles que refuerzan los sistemas de IA de los clientes * La cobertura de evaluación se amplía: se prueban más escenarios y surgen menos sorpresas en producción **Términos contractuales y de pago** ------------------------------ * Será contratado como contratista independiente. * Se trata de un puesto completamente remoto que puede realizarse según su propio horario. * Los proyectos pueden ampliarse, acortarse o finalizarse anticipadamente según las necesidades y el desempeño. * Los pagos se realizan semanalmente mediante Stripe o Wise, según los servicios prestados.
