O tej roli
Poprowadzisz zespół red team RateAI, projektując i prowadząc kampanie, które testują systemy AI w taki sposób, w jaki robiłby to rzeczywisty, zmotywowany atakujący. Twoje ustalenia bezpośrednio wpływają na wyniki filarów Guardrail Resistance i Adversarial Robustness.
Co będziesz robić
- Projektować kampanie jailbreaku, wstrzyknięcia promptów i ataków wieloagentowych
- Prowadzić ustrukturyzowane operacje testowania bezpieczeństwa wobec systemów klientów
- Dokumentować exploity i przekształcać je w trwałe kontrole oceny
- Pozostać na bieżąco z pojawiającymi się technikami ataków w całym krajobrazie AI
Czego szukamy
- Głębokie doświadczenie w bezpieczeństwie ofensywnym, red-teamingu AI lub adversarial ML
- Kreatywność i wytrwałość w znajdowaniu trybów awarii, które inni pominęli
- Umiejętność jasnego komunikowania ryzyka odbiorcom technicznym i nietechnicznym
Zastępczy opis stanowiska - zastąpić ostatecznym ogłoszeniem.
