Código

Acompaña al artículo sobre prompt injection y jailbreaking

Guardrails para asistentes con LLM

Siete ataques reales que se escriben en un chat, y las capas que los detienen.

Python 98%TOML 2%13 archivos558 líneas de código 21/21 pruebas
"""Capa 5a: datos personales en la salida.

Detecta y enmascara identificadores mexicanos y financieros comunes antes de
que una respuesta salga del sistema. Las tarjetas se validan con Luhn para no
enmascarar cualquier número largo.
"""

from __future__ import annotations

import re
from dataclasses import dataclass

_PATTERNS: dict[str, re.Pattern[str]] = {
    "curp": re.compile(r"\b[A-Z][AEIOUX][A-Z]{2}\d{6}[HM][A-Z]{5}[A-Z0-9]\d\b"),
    "rfc": re.compile(r"\b[A-ZÑ&]{3,4}\d{6}[A-Z0-9]{3}\b"),
    "email": re.compile(r"\b[\w.+-]+@[\w-]+\.[\w.-]+\b"),
    "telefono": re.compile(r"(?<!\d)(?:\+?52[\s-]?)?(?:\d{2}[\s-]?\d{4}[\s-]?\d{4})(?!\d)"),
}
_CARD = re.compile(r"(?<!\d)(?:\d[\s-]?){13,19}(?!\d)")


@dataclass(frozen=True)
class PiiFinding:
    kind: str
    value: str


def _luhn_ok(number: str) -> bool:
    digits = [int(d) for d in number if d.isdigit()]
    checksum = 0
    for i, d in enumerate(reversed(digits)):
        if i % 2 == 1:
            d *= 2
            if d > 9:
                d -= 9
        checksum += d
    return len(digits) >= 13 and checksum % 10 == 0


def find_pii(text: str) -> list[PiiFinding]:
    findings = [PiiFinding("tarjeta", m.group(0)) for m in _CARD.finditer(text) if _luhn_ok(m.group(0))]
    card_spans = "".join(f.value for f in findings)
    for kind, pattern in _PATTERNS.items():
        for m in pattern.finditer(text):
            if kind == "telefono" and m.group(0) in card_spans:
                continue
            findings.append(PiiFinding(kind, m.group(0)))
    return findings


def redact(text: str) -> tuple[str, list[PiiFinding]]:
    findings = find_pii(text)
    for f in sorted(findings, key=lambda f: len(f.value), reverse=True):
        text = text.replace(f.value, f"[{f.kind} oculto]")
    return text, findings