IA local · Soberanía del dato
IA generativa en local, sin sacar datos
En validación · septiembre de 2026
Un nodo de inferencia local sobre un portátil con GPU dedicada, expuesto como API compatible con el resto del stack, con un modelo abierto residente y otro mayor para lotes sin prisa.
El problema
Documentos internos y datos personales dependían de APIs externas para cualquier tarea de IA: clasificar, resumir, traducir. El coste era modesto; el problema era dónde acababa el dato.
La solución
Un nodo de inferencia local sobre un portátil con GPU dedicada, expuesto como API compatible con el resto del stack, con un modelo abierto residente y otro mayor para lotes sin prisa.
Decisión clave
Medir antes de elegir: los modelos se compararon en el hardware real, no por ficha técnica; el mayor no cabía en la GPU y se descartó como residente.
Enfoque
Cómo se abordó
-
Criterio de implementación
Un modelo cargado a la vez, restricción asumida en el diseño. Contexto ajustado por tarea. Razonamiento desactivable en tareas simples. Salida siempre en JSON validado por esquema. UTF-8 forzado de extremo a extremo tras detectar corrupción con tildes y eñes. Y gobernanza de instalación: software solo desde canal oficial con verificación de hash, modelos solo de primera fuente, instalaciones de sistema con aprobación humana y registro por componente.
Estado y próximos pasos
En validación · septiembre de 2026
Nodo desplegado y medido (septiembre de 2026). Primer caso de uso —clasificación documental— en validación. Sin profundizar más por falta de medios; el servidor propio existe en parte para eso.
Criterio
La decisión que guía el sistema
Medir antes de elegir: los modelos se compararon en el hardware real, no por ficha técnica; el mayor no cabía en la GPU y se descartó como residente.