Private AI: ChatGPT-achtige AI zonder dat je data de EU verlaat

Een accountant die jaarstukken wil samenvatten. Een advocaat die contracten wil doorzoeken. Een zorginstelling die sneller verslagen wil schrijven. Ze willen allemaal AI gebruiken, maar lopen tegen dezelfde vraag aan: mag deze informatie wel in ChatGPT?

Vaak is het eerlijke antwoord: liever niet. In dit artikel leggen we uit wat het alternatief is.

Waar gaat je data naartoe?

Als je een tekst in een bekende AI-dienst plakt, wordt die verwerkt op servers van het bedrijf achter die dienst. Bij de grote aanbieders zijn dat Amerikaanse bedrijven. Met een zakelijk abonnement gebruiken ze je gegevens meestal niet om hun modellen te trainen, en veel aanbieders bieden inmiddels opslag in Europa. Maar je blijft afhankelijk van hun voorwaarden, en bij gevoelige gegevens is dat voor veel organisaties een brug te ver.

Daar komt bij dat je bij persoonsgegevens onder de AVG moet kunnen uitleggen waar ze worden verwerkt en door wie. Hoe minder partijen, hoe eenvoudiger dat is.

Wat is Private AI?

Met Private AI draait een taalmodel op een server die alleen voor jouw organisatie is, in een Europees datacenter. Je team werkt in een chatomgeving die lijkt op ChatGPT: vragen stellen, teksten laten schrijven, documenten samenvatten. Het verschil is dat de gegevens die omgeving niet verlaten.

Dat kan dankzij open-source taalmodellen. Bedrijven als Mistral (Frankrijk), Meta en Alibaba publiceren modellen die iedereen op een eigen server mag draaien. De kwaliteit daarvan is de afgelopen jaren flink gestegen.

Wat kun je ermee?

• Samenvatten en schrijven. Lange documenten samenvatten, mails en brieven opstellen, verslagen uitwerken.
• Vragen over je eigen documenten. Je koppelt handboeken, dossiers of een kennisbank. De assistent zoekt het antwoord op en verwijst naar de bron. Dit heet ook wel RAG (retrieval-augmented generation).
• Vertalen en herschrijven. In de toon en terminologie van je organisatie.
• Koppelen aan je processen. Dezelfde AI kan later ook onderdeel worden van automatiseringen, bijvoorbeeld voor het verwerken van binnenkomende post.

Eerlijk: wat zijn de beperkingen?

Open-source modellen zijn uitstekend in samenvatten, schrijven en vragen over documenten. Voor de allermoeilijkste redeneertaken, zoals complexe analyses over tientallen pagina's, zijn de grootste commerciële modellen soms nog beter.

Daarnaast kost een eigen server geld, ook als hij niet gebruikt wordt. Voor een team dat AI af en toe gebruikt voor niet-gevoelige teksten, is een zakelijk abonnement op een bekende dienst vaak goedkoper.

Wanneer is Private AI de moeite waard?

Private AI is vooral interessant als:

• je regelmatig met persoonsgegevens of vertrouwelijke informatie werkt, zoals dossiers, contracten of medische gegevens;
• je klanten of toezichthouders vragen waar hun gegevens blijven;
• je AI wilt gebruiken op een grote verzameling eigen documenten;
• je niet afhankelijk wilt zijn van de prijzen en voorwaarden van één Amerikaanse aanbieder.

Wat kost het?

Bij ons begint een Private AI-omgeving vanaf € 2.950 voor de inrichting en vanaf € 495 per maand voor hosting, beheer en updates. De maandprijs hangt vooral af van de grootte van het model en het aantal gebruikers. Kijk voor alle details op de pagina over Private AI.

Zelf beginnen?

Twijfel je of Private AI voor jou nodig is? Begin met duidelijke afspraken over welke informatie wel en niet in AI-tools mag. Onze gratis AI-promptgids bevat een sjabloon voor zulke gebruiksregels. En wil je weten waar AI in jouw bedrijf de meeste tijd bespaart, doe dan de gratis AI-scan.