coreAI kan nu köra språkmodeller på europeisk hårdvara och infrastruktur genom ett avtal med OpenRouter. Det innebär att själva AI-förfrågan – frågan och innehållet den ska svara utifrån – behandlas av leverantörer inom EU/EES, inte på servrar i USA. För dig med norska eller europeiska integritetskrav tar det bort en av de svåraste avvägningarna med att börja använda AI.
#Vad innebär europeisk infrastruktur i praktiken?
Europeisk infrastruktur innebär att språkmodellen körs på datacenter och hårdvara som ligger fysiskt inom EU/EES, och att förfrågningarna dirigeras dit via OpenRouters europeiska slutpunkt. coreAI skickar då anropet till eu.openrouter.ai i stället för den globala slutpunkten, och OpenRouter förmedlar det bara vidare till leverantörer som erbjuder modellen på europeisk infrastruktur.
I praktiken skiljer vi mellan tre lager, och alla tre är relevanta för integriteten:
- din kunskapsbas och sökindex, som redan ligger på norsk infrastruktur
- embeddings-modellen som vektoriserar innehållet
- språkmodellen som formulerar själva svaret
Det är det sista lagret – språkmodellen – som tidigare oftast låg utanför Europa. Med europeisk infrastruktur håller sig hela kedjan inom EU/EES för de modeller som är tillgängliga där.
#Ett enkelt val per kunskapsbas
Du bestämmer själv per kunskapsbas vilken infrastruktur modellen ska köras på, där det är tillgängligt. Valet är en enkel inställning på kunskapsbasen – inte ett utvecklingsprojekt – så du kan köra en kunskapsbas på europeisk infrastruktur och en annan på global, beroende på hur känsligt innehållet är.
Alla modeller finns inte på europeisk hårdvara ännu. För de modeller som gör det visas europeisk infrastruktur som ett tillgängligt alternativ; för de som inte gör det faller du tillbaka på det globala alternativet. Du ser alltså alltid vad som faktiskt är möjligt för den modell du har valt, och kan välja medvetet.
#GDPR, datalagring och ingen träning
För de europeiska leverantörerna körs förfrågningarna under Zero Data Retention (ZDR): ditt innehåll lagras inte efter att svaret levererats, och det används inte för att träna modellerna. Kombinationen av databehandling inom EU/EES, ingen lagring och ingen träning är det som gör upplägget GDPR-vänligt.
Konkret innebär ZDR att en förfrågan behandlas i minnet för att generera svaret och därefter kastas. Det finns ingen logg av själva innehållet hos modelleverantören, och inget av det du skickar in hamnar i ett träningsdataset. Dataansvaret och kontrollen stannar hos dig.
#Garanterad europeisk hårdvara – men inte alltid europeiskt ägande
Det garanteras att språkmodellerna körs i Europa på europeisk hårdvara, men företaget som äger hårdvaran kan i vissa fall ändå vara amerikanskt ägt. Skillnaden går mellan var beräkningen sker – alltid inom EU/EES – och vem som äger datacentret den sker i.
För de öppna modellerna kan körningen ske på europeisk hårdvara utan att ägaren är ett amerikanskt företag; där får du både europeisk databehandling och europeiskt ägande. De stängda modellerna från de stora leverantörerna körs däremot på leverantörens egna datacenter: GPT-modellerna körs till exempel på OpenAI:s europeiska datacenter, och Gemini-modellerna på Googles. Beräkningen sker då i Europa, men ägandet av hårdvaran ligger fortfarande hos ett amerikanskt företag.
Även OpenRouter, som dirigerar förfrågningarna vidare, är ett amerikanskt ägt företag. Det vi garanterar är att de europeiska modellerna behandlas inom EU/EES under ZDR och utan träning på dina data – oavsett vem som äger hårdvaran bakom.
Vi anser detta vara tillräckligt bra för de allra flesta användningsområden: så länge förfrågningarna behandlas inom EU/EES, inte lagras och inte används för träning är de praktiska integritetsriskerna små – även när hårdvaran ägs av ett amerikanskt företag. Behöver du dessutom europeiskt ägande av hårdvaran väljer du en av de öppna modellerna som körs hos europeiska leverantörer.
#Så kommer du igång
Välj europeisk infrastruktur på den aktuella kunskapsbasen där alternativet är tillgängligt, så dirigeras förfrågningarna automatiskt genom Europa. Vill du se hur kunskapsbasen hänger ihop med resten av lösningen, se kunskapsbas-lösningen eller ta kontakt för en genomgång.