Código
Acompaña al artículo sobre prompt injection y jailbreaking
Guardrails para asistentes con LLM
Siete ataques reales que se escriben en un chat, y las capas que los detienen.
13 archivos558 líneas de código 21/21 pruebas
"""Capa 5a: datos personales en la salida.
Detecta y enmascara identificadores mexicanos y financieros comunes antes de
que una respuesta salga del sistema. Las tarjetas se validan con Luhn para no
enmascarar cualquier número largo.
"""
from __future__ import annotations
import re
from dataclasses import dataclass
_PATTERNS: dict[str, re.Pattern[str]] = {
"curp": re.compile(r"\b[A-Z][AEIOUX][A-Z]{2}\d{6}[HM][A-Z]{5}[A-Z0-9]\d\b"),
"rfc": re.compile(r"\b[A-ZÑ&]{3,4}\d{6}[A-Z0-9]{3}\b"),
"email": re.compile(r"\b[\w.+-]+@[\w-]+\.[\w.-]+\b"),
"telefono": re.compile(r"(?<!\d)(?:\+?52[\s-]?)?(?:\d{2}[\s-]?\d{4}[\s-]?\d{4})(?!\d)"),
}
_CARD = re.compile(r"(?<!\d)(?:\d[\s-]?){13,19}(?!\d)")
@dataclass(frozen=True)
class PiiFinding:
kind: str
value: str
def _luhn_ok(number: str) -> bool:
digits = [int(d) for d in number if d.isdigit()]
checksum = 0
for i, d in enumerate(reversed(digits)):
if i % 2 == 1:
d *= 2
if d > 9:
d -= 9
checksum += d
return len(digits) >= 13 and checksum % 10 == 0
def find_pii(text: str) -> list[PiiFinding]:
findings = [PiiFinding("tarjeta", m.group(0)) for m in _CARD.finditer(text) if _luhn_ok(m.group(0))]
card_spans = "".join(f.value for f in findings)
for kind, pattern in _PATTERNS.items():
for m in pattern.finditer(text):
if kind == "telefono" and m.group(0) in card_spans:
continue
findings.append(PiiFinding(kind, m.group(0)))
return findings
def redact(text: str) -> tuple[str, list[PiiFinding]]:
findings = find_pii(text)
for f in sorted(findings, key=lambda f: len(f.value), reverse=True):
text = text.replace(f.value, f"[{f.kind} oculto]")
return text, findings