Aquest projecte proposa una plataforma d’auto-allotjament per executar models d’IA i gestionar bases de vectors en entorns privats, amb control total sobre les dades, la infraestructura i els costos.

L’objectiu és desplegar un entorn modular basat en contenidors, amb serveis separats per a inferència de models, indexació semàntica, emmagatzematge persistent i API d’accés. La solució pot incorporar un model de llenguatge local, un motor d’embeddings i una base de vectors optimitzada per a cerca semàntica, recomanació i recuperació de coneixement. Tot això es complementa amb autenticació, control d’accés, monitoratge i rèpliques per garantir disponibilitat i seguretat.

El sistema està pensat per funcionar en servidors propis, núvol privat o infraestructures híbrides. Permet carregar documents interns, generar vectors, fer consultes semàntiques i integrar els resultats amb aplicacions corporatives, assistents conversacionals o fluxos d’automatització. També facilita l’auditoria i el compliment normatiu, ja que les dades no surten de l’entorn controlat.

A nivell operatiu, el projecte prioritza l’escalabilitat horitzontal, l’actualització independent de components i l’ús eficient de recursos GPU o CPU segons la càrrega. El resultat és una plataforma flexible, segura i extensible per desplegar IA generativa i recuperació augmentada per vectors sense dependre de serveis externs.