Private AI: een eigen AI model binnen je eigen muren

Dat horen we vaak. Medewerkers zien wat ChatGPT of Copilot kan, en willen er dossiers, contracten of klantgegevens in zetten. Tegelijk is er een privacyfunctionaris, een klant met strenge eisen of een branche met eigen regels die dat tegenhoudt. Het gevolg is een van twee dingen: niemand gebruikt AI, of mensen gebruiken het stiekem met een persoonlijk account.

Beide zijn onwenselijk. In het eerste geval laat je tijdwinst liggen. In het tweede geval gaan gegevens juist naar een plek waar je geen afspraken over hebt. Private AI lost dat op: je team krijgt een AI-assistent die net zo werkt, maar waarvan de gegevens binnen je eigen muren blijven.

Veel mensen denken bij private AI aan een eigen AI model dat ze zelf trainen. Dat is zelden de beste route. Een model trainen kost veel rekenkracht, veel voorbeeldgegevens en veel tijd, en na een jaar is het ingehaald door nieuwere modellen.

Wat bijna altijd beter werkt, is een bestaand open model gebruiken en dat je eigen documenten laten doorzoeken. Dat heet RAG: bij elke vraag zoekt het systeem eerst de relevante passages in jouw bronnen op en geeft die aan het model mee. Het antwoord is dan gebaseerd op jouw handboek, jouw contracten of jouw productinformatie, met een verwijzing naar de bron. Nieuwe documenten voeg je gewoon toe.

Fine-tuning, het bijtrainen van een model op eigen voorbeelden, is zinvol als je een heel specifieke schrijfstijl of een vaste taak wilt die een standaardmodel slecht doet. Het verschil leggen we uit in RAG of fine-tuning. Wat een taalmodel precies is, lees je in wat is een LLM.

1. Eisen bepalen. Welke gegevens gaan erin, wie mag wat zien, welke wet- en regelgeving geldt en wat zegt je privacyfunctionaris of klant. Dit bepaalt of lokaal, eigen server of Europese cloud past.
2. Model en plek kiezen. Open modellen verschillen in grootte, taal en snelheid. Een groter model geeft betere antwoorden, maar vraagt zwaardere hardware. We testen twee of drie modellen op je eigen vragen en kiezen op resultaat.
3. Bronnen koppelen. We maken je documenten doorzoekbaar en koppelen systemen via een API. Rechten nemen we mee: wie een dossier niet mag openen, krijgt er via de AI ook geen antwoord uit.
4. Testen en invoeren. We stellen een testset op van echte vragen met de goede antwoorden, meten hoe vaak het model het goed heeft en passen aan tot het werkt. Daarna leren we je team ermee werken en richten we logboeken in.

De kosten bestaan uit drie delen:

• Opzet: model kiezen, bronnen koppelen, testen en invoeren. Dit doen we tegen een vaste prijs per stap. prijsindicatie opzet private AI, bijvoorbeeld vanaf bedrag
• Hardware of hosting: een eigen machine met een geschikte videokaart, of een gehuurde server met GPU in een Europees datacenter. Hoe groter het model en hoe meer gebruikers tegelijk, hoe zwaarder de hardware. Een voorbeeld bij Scaleway in Parijs, prijspeil september 2026, exclusief btw: een server met één Nvidia L4 met 24 GB kost € 0,79 per uur, ongeveer € 575 per maand. Met één L40S met 48 GB is dat ongeveer € 1.073 per maand, met één H100 met 80 GB ongeveer € 2.093 per maand.
• Beheer: updates, nieuwe modellen, monitoring en aanpassingen. prijs beheer private AI per maand

Tegenover die kosten staan geen licenties per gebruiker, zoals bij de meeste cloudabonnementen. Bij grotere teams kan private AI daardoor ook financieel gunstig uitvallen. Een eerste inschatting maken we in het AI kansenonderzoek, of reken zelf met de token calculator wat de cloudvariant zou kosten.