coreAI kan nu köra språkmodeller och embeddings på europeisk infrastruktur genom ett avtal med OpenRouter. Det innebär att själva AI-förfrågan – frågan och innehållet den ska svara utifrån – behandlas av leverantörer inom EU/EES, inte på servrar i USA. För dig med norska eller europeiska integritetskrav tar det bort en av de svåraste avvägningarna med att börja använda AI.
#Vad innebär europeisk infrastruktur i praktiken?
Europeisk infrastruktur innebär att språkmodellen och embeddings-modellen körs på datacenter inom EU/EES, och att förfrågningarna dirigeras dit via OpenRouters europeiska slutpunkt. coreAI skickar då anropet till eu.openrouter.ai i stället för den globala slutpunkten, och OpenRouter förmedlar det bara vidare till leverantörer som erbjuder modellen på europeisk infrastruktur.
I praktiken skiljer vi mellan tre lager, och alla tre är relevanta för integriteten. Kunskapsbasen ligger alltid på norsk infrastruktur, medan embeddings-modellen och språkmodellen följer den AI-region du väljer:
- din kunskapsbas och ditt sökindex, som alltid ligger på norsk infrastruktur
- embeddings-modellen som vektoriserar innehållet och som följer AI-regionen
- språkmodellen som formulerar själva svaret och som följer AI-regionen
Det är de två sista lagren – embeddings-modellen och språkmodellen – som tidigare oftast låg utanför Europa. Med europeisk AI-region håller sig hela kedjan inom EU/EES för de modeller som är tillgängliga där.
#Ett enkelt val per kunskapsbas
Du väljer själv AI-region per kunskapsbas – alltså vilken infrastruktur embeddings-modellen och språkmodellen ska köras på, där det är tillgängligt. Valet är en enkel inställning på kunskapsbasen – inte ett utvecklingsprojekt – så du kan köra en kunskapsbas på europeisk infrastruktur och en annan på global, beroende på hur känsligt innehållet är.
Alla modeller finns inte på europeisk infrastruktur ännu. För de modeller som gör det visas europeisk AI-region som ett tillgängligt alternativ; för de som inte gör det faller du tillbaka på det globala alternativet. Du ser alltså alltid vad som faktiskt är möjligt för den modell du har valt, och kan välja medvetet.
#GDPR, datalagring och ingen träning
Oavsett AI-region används ditt innehåll aldrig för att träna modellerna. Med europeisk AI-region körs förfrågningarna dessutom under Zero Data Retention (ZDR): ditt innehåll lagras inte efter att svaret levererats. Kombinationen av databehandling inom EU/EES, ingen lagring och ingen träning är det som gör upplägget GDPR-vänligt.
Konkret innebär ZDR att en förfrågan behandlas i minnet för att generera svaret och därefter kastas. Det finns ingen logg av själva innehållet hos modelleverantören. Inget av det du skickar in hamnar i ett träningsdataset – inte heller när du väljer global AI-region. Dataansvaret och kontrollen stannar hos dig.
#Garanterad europeisk infrastruktur – men inte alltid europeiskt ägande
Det garanteras att embeddings och språkmodellerna körs i Europa på europeisk infrastruktur, men företaget som äger hårdvaran kan i vissa fall ändå vara amerikanskt ägt. Skillnaden går mellan var beräkningen sker – alltid inom EU/EES – och vem som äger datacentret den sker i.
För de öppna modellerna kan körningen ske på europeisk infrastruktur utan att ägaren är ett amerikanskt företag; där får du både europeisk databehandling och europeiskt ägande. De stängda modellerna från de stora leverantörerna körs däremot på leverantörens egna datacenter: GPT-modellerna körs till exempel på OpenAI:s europeiska datacenter, och Gemini-modellerna på Googles. Beräkningen sker då i Europa, men ägandet av hårdvaran ligger fortfarande hos ett amerikanskt företag.
Även OpenRouter, som dirigerar förfrågningarna vidare, är ett amerikanskt ägt företag. Det vi garanterar är att de europeiska modellerna behandlas inom EU/EES under ZDR och utan träning på dina data – oavsett vem som äger hårdvaran bakom.
Vi anser detta vara tillräckligt bra för de allra flesta användningsområden: så länge förfrågningarna behandlas inom EU/EES, inte lagras och inte används för träning är de praktiska integritetsriskerna små – även när hårdvaran ägs av ett amerikanskt företag. Behöver du dessutom europeiskt ägande av hårdvaran väljer du en av de öppna modellerna som körs hos europeiska leverantörer.
#coreAI på din egen hårdvara
För verksamheter med extra stränga krav på datakontroll finns en lösning som går ett steg längre: du kan köra själva coreAI-plattformen på din egen eller en partners hårdvara. Det innebär att inte bara AI-förfrågningarna, utan hela lösningen – inklusive kunskapsbasen, sökindexet och applikationslogiken – körs inom din egen driftsmiljö, utan att något som helst lämnar din infrastruktur.
Detta är aktuellt om du:
- har krav på att ingen data lämnar ditt eget nätverk eller serverrum
- vill ha full kontroll över uppdateringar, tillgänglighet och driftskonfiguration
- verkar i en bransch med särskilda regulatoriska eller säkerhetsmässiga krav på databehandling
- vill erbjuda coreAI som en tjänst till dina egna kunder via din partnerdrift
I ett sådant upplägg installeras coreAI på servrar du själv kontrollerar – antingen internt i din organisation eller hos ett norskt eller europeiskt partnerföretag. Du väljer själv vilken språkmodell du kopplar till, inklusive öppna modeller som kan köras helt lokalt utan att trafik skickas ut från din miljö.
#Så kommer du igång
Välj europeisk AI-region på den aktuella kunskapsbasen där alternativet är tillgängligt, så dirigeras förfrågningarna automatiskt genom Europa. Vill du köra hela coreAI-plattformen på egen hårdvara, ta kontakt för att diskutera upplägg och krav. Vill du se hur kunskapsbasen hänger ihop med resten av lösningen, se kunskapsbas-lösningen.