2026-02-04

Infrastrukturen til AI-assistenten Laila

Infrastruktur og ressurser bak HR-assistenten for personalhåndboken.

Denne artikkelen beskriver infrastrukturen som brukes i personalhåndbok-delen av Laila, XLENT sin interne AI-assistent for HR-spørsmål. Hvordan Laila fungerer funksjonelt, og hvordan hun håndterer både personalhåndbok og feriesaldo, er beskrevet i en egen artikkel du kan lese HER. 

Infrastruktur som kode 

Laila er bygget og driftet fullt ut i Azure. For å sikre konsistens, sporbarhet og enkelt oppsett av nye miljøer (for eksempel test og produksjon), er hele infrastrukturen definert som kode ved hjelp av Terraform. Dette gjør det mulig å reprodusere miljøer på en kontrollert måte og reduserer risiko ved endringer og videreutvikling. 

Azure-ressurser i løsningen 

Nedenfor er en oversikt over de sentrale Azure-tjenestene som inngår i løsningen: 

• Azure Cosmos DB 

Cosmos DB brukes som vektordatabase for å lagre innholdet fra personalhåndboken i vektorisert form. Data oppdateres ved hjelp av periodiske jobber som henter innhold fra tredjepartssystemer. Ved å lagre teksten som vektorer kan Laila finne relevant informasjon basert på semantisk likhet, ikke bare eksakte søkeord. 

I tillegg til container for kunnskapsinnhold, brukes en egen cache-container for å lagre spørsmål-svar-par som ofte forekommer, noe som bidrar til lavere responstid for vanlige henvendelser. 

• Azure AI Bot Service 

Azure AI Bot Service benyttes for å koble Laila til Microsoft Teams. Tjenesten bygger på Bot Framework SDK og håndterer blant annet autentisering, sikkerhet, brukerøkter og meldingsflyt. Dette gir et robust fundament for samtaler i Teams, uten at disse mekanismene må implementeres manuelt. 

• Azure App Service 

Selve bot-logikken og API-et som styrer Laila kjøres som en container i Azure App Service. Her ligger implementasjonen av Bot Framework, integrasjoner mot språkmodeller og tilgangen til vektordatabasen. App Service gir stabil drift, innebygd skalering og forenklet utrulling av nye versjoner. 

• Application Insights 

Application Insights brukes til overvåking og feilsøking i produksjon. Her samles logger, metrikker og telemetri som gir innsikt i blant annet responstid, feilrater og bruksmønstre. Dette gjør det mulig å identifisere flaskehalser og kontinuerlig forbedre både ytelse og stabilitet. 

Distribusjon i Microsoft Teams 

Distribusjon av Laila til ansatte i Microsoft Teams håndteres via Teams Developer Portal. Her konfigureres app-manifest, tillatelser og publisering. For å støtte flere miljøer benyttes separate Teams-apper for test og produksjon. 

Tilgang til de ulike miljøene styres ved hjelp av Azure Entra ID sikkerhetsgrupper, slik at kun utvalgte brukere får tilgang til testversjoner, mens produksjonsmiljøet er tilgjengelig for øvrige ansatte. 

Skrevet av: Kari Skjold