Tradisjonelle nettlesere som f.eks. Edge og Chrome har utviklet seg over tid, og dermed blitt tryggere å bruke med tanke på sikkerhet og personvern. Blokkering av domener og kontroll/verifisering av IP-adresser. Sikkerhetshull blir tettet og utvikling skjer i tråd med lover og regelverk.
Spesialdesignede KI-nettlesere, også kalt agentisk nettleser, er introdusert, og utforsking og utprøving er i gang. En slik KI-nettleser er bygget fra bunnen av med KI som kjernefunksjon, i motsetning til en vanlig nettleser som har KI som et lag på toppen, som f.eks. Microsoft Copilot i Edge.
Ved søk i en vanlig nettleser, vil KI-agenten kun se svar på spørringer som en tekst, beskrive det den ser, og deretter sette sammen et sannsynlig svar. Den har ikke teknisk tilgang til selve nettsiden og kan derfor ikke gå inn å gjøre noe konkret, som å fylle ut et skjema.
Muligheter og utfordringer
En agentisk nettleser er bygd opp med flere lag hvor KI-agenten har tilgang til selve strukturen, DOM-kontroll, som er et kart over nettsiden. Dette betyr at denne KI-agenten har tilgang til et dypere lag av informasjon på nettsider som den kan analysere og bruke på egen hånd. Den kan surfe, skrive og klikke som deg. De mulighetene som dukker opp i denne modellen, gir KI-agenten automatisk innsikt og handlekraft til å gjøre selvstendige handlinger på dine vegne.
Eksempler på en agentisk nettleser er Atlas, Dia og Comet. Disse har forskjellige egenskaper, hvor KI-agenten automatisk kan gjøre oppgaver på dine vegne. De kan få tilgang til dine data i andre apper. De kan logge inn som deg, åpne nettsider og finne produkter, fylle ut skjema, trykke på knapper og sende inn. KI-agenten kan endre innhold i felter og kjøre bestillinger.
Risiko
Der det er muligheter for KI-agenten, vil det også være muligheter for angripere. Open AI erkjenner at utfordringen med sikkerhet alltid vil være der selv om sikkerhetstiltak i modellene jobbes med kontinuerlig. Derfor ligger mye av jobben rundt risikobildet og sikkerhetstiltakene på deg som bruker, i samhandlingen mellom menneske og maskin.
Hva er Prompt injection?
“Prompt injection” er en type angrepsform som minner om phishing i e-posten, der en tredjepart prøver å lure til seg sensitive opplysninger som de kan bruke senere.
I dette tilfelle er det KI-agenten som blir manipulert og lurt til å følge tråder som er infisert. En hacker har kodet inn ondsinnede kommandoer som villeder og manipulerer KI-agenten til å utføre handlinger som ikke var tiltenkt fra start. Hensikten er å hente ut sensitive data fra e-poster eller dokumenter, stjele lagrede passord, eller få KI-en til å gjøre utilsiktede oppgaver.
Lurer KI til å ignorere kommandoer og legge til egne
En angriper kan sette inn en promt injection i en e-post hvor KI-agenten blir lurt til å utføre angriperens instrukser, som f.eks. send all sensitiv e-post til denne adressen. Eller du kan spørre om KI-agenten kan finne et produkt etter gitte kriterier. Angriperen setter en promt injection i en “best i test”-webside og manipulerer deg i valget uansett dine kriterier.
KI-agenten i en agentisk nettleser er ekstra utsatt for prompt injection siden disse har muligheter til å gjøre konkrete handlinger, og har stor frihet til å handle på egen hånd. Disse KI-agentene har også stor tilgang på mye data. De kan scanne alle tekstfiler på åpne nettlesere, trygge og utrygge sider, annonser, script, kommentarer, informasjon, og i tillegg ha tilgang til andre nedlastede apper. KI-agenten kan også ha tilgang på mus og tastatur. Jo flere oppgaver KI-agenten blir involvert i, jo mer kan et angrep utnyttes.
Begrens faren
Open AI anerkjenner at dette er et pågående problem på lik linje som phishing og svindel på nettet, og disse truslene har vi med tiden lært å være på vakt for. Når nye aktører og ny utvikling endrer sikkerhetsrisikoen, men også tilfører muligheter, blir den menneskelige faktoren ekstra viktig for å ivareta sikkerheten.
Tips ved bruk av KI-agenter:
- Ikke bruk automatisk pålogging
- Krev bekreftelse før utfylling av skjema
- Ikke godkjenn automatiske navigeringer til ukjente URLer
- Ikke gi mulighet til å håndtere sensitive data uten samtykke.
Samtidig må andre sikkerhetstiltak være på plass før KI-bruk.
Beskytt dataene dine så god som mulig og les mer om sikkerhet på bloggen:
Bli bevisst på trusler og hvordan du kan beskytte dine data
Hvordan øke IT-sikkerheten med en sentral identitet
Hva er «Conditional Access»? Tilgangskontroll med Microsoft Entra ID (Azure AD)
