AI i företaget: så tar ni steget utan att tumma på säkerheten

Sedan AI-verktygen slog igenom har två frågor dykt upp på nästan varje forum och i varje fikarum. Den första: kommer AI att ta våra jobb? Den andra: hur ska vi som företag komma igång, och är det ens säkert? Vi får samma frågor från våra kunder, så här är hur vi ser på saken och hur vi tycker att ett företag ska ta steget.

Kommer AI att ta jobben?

Oron är förståelig. När vem som helst kan be en AI skriva en text, bygga en webbplats eller ta fram ett program är det lätt att undra vad ens egen kunskap är värd.

Vår erfarenhet hittills pekar åt ett annat håll. AI har inte minskat behovet av kunniga människor hos oss, utan ökat det. När utvecklare får hjälp av AI blir mer gjort på samma tid: fler projekt, fler idéer som faktiskt blir av och kortare väg från behov till lösning. Allt det måste fortfarande planeras, granskas, testas, driftsättas och underhållas, och där behövs människor med erfarenhet. Arbetet förändras, men det försvinner inte.

Att kunna prompta är inte samma sak som att bygga säkert

En AI kan skriva kod som fungerar vid första anblick. Sidan laddar, formuläret skickas och inloggningen släpper in rätt person. Säkerhetsbristerna syns sällan när allt fungerar som det ska, utan först när någon försöker missbruka det.

Det här är brister som är vanliga i det som byggts med AI utan att någon med erfarenhet granskat det:

Saknad behörighetskontroll. Sidan kontrollerar att du är inloggad, men inte att uppgifterna du ber om är dina. Byter man ett nummer i adressen ser man någon annans data.
Hemligheter i koden. Lösenord och API-nycklar hamnar direkt i filer som sedan publiceras.
Otvättad inmatning. Text från ett formulär skickas rakt in i databasen eller visas på sidan, vilket öppnar för SQL-injektion och skadlig kod.
Glömda administrationssidor och testfiler som ligger öppna på servern.
Föråldrade tillägg och paket med kända sårbarheter.

För att upptäcka sådant behöver man veta vad man letar efter. Kunskapen sitter inte i att skriva varje rad själv, utan i att se vad som saknas.

Varför går det snabbare för den som redan kan?

Det är stor skillnad på en erfaren utvecklare som arbetar med AI och någon utan bakgrund som gör det. Den erfarna vet vad den ska be om, känner igen ett dåligt förslag direkt och vet hur resultatet ska testas. Därför går det väsentligt mycket snabbare, och det som byggs håller.

Den som saknar grunden kan också få något att fungera, men går ofta runt i cirklar, får svårt att felsöka och vet inte vilka risker som finns i det som byggts. AI förstärker den kunskap som redan finns. Den ersätter den inte.

Så tar ditt företag steget: sju steg

Börja med ett problem, inte med verktyget. Välj en konkret uppgift som tar tid i dag, till exempel att besvara vanliga kundfrågor, sammanfatta dokument eller ta fram första utkast till texter. Det gör det lättare att se om AI faktiskt hjälper.
Bestäm vilka uppgifter som får gå in i AI. Personuppgifter, kunddata, avtal och lösenord ska inte klistras in i vilken tjänst som helst. Ta reda på var uppgifterna lagras, om de används för att träna tjänsten och om leverantören har ett avtal som fungerar med GDPR. Företagsversioner av de stora tjänsterna har ofta bättre villkor än de gratis.
Skriv en enkel AI-policy. En sida räcker: vilka verktyg som får användas, vad som inte får matas in, och att en människa alltid granskar innan något skickas till kund eller publiceras.
Börja i liten skala. Testa med några personer och en avgränsad uppgift i några veckor. Utvärdera vad som sparade tid och vad som blev fel innan ni breddar.
Låt AI föreslå och människan bestämma. AI är bra på att ta fram förslag, men den kan ha fel med stor säkerhet. Låt någon som kan ämnet godkänna innan något får effekt, särskilt när det gäller pengar, kunder och system.
Låt kunnigt folk bygga det som kopplas till era system. Ska AI kopplas till er webbplats, ert kundregister eller er e-post behövs någon som kan utveckling och säkerhet, som granskar behörigheter, hanterar nycklar rätt och testar det som byggts.
Utbilda personalen. Visa vad verktygen är bra på, var de brukar ha fel och vad som inte får matas in. Det är ofta där den största säkerhetsrisken ligger.

Håll också koll på regelverket. EU:s AI-förordning införs stegvis och ställer krav på bland annat öppenhet och riskbedömning, främst när AI används i känsliga sammanhang.

Är det säkert att använda AI i företaget?

Det kan vara det, om det görs med eftertanke. Riskerna ligger sällan i tekniken i sig, utan i hur den används: vilka uppgifter som skickas in, hur resultatet kontrolleras och om det som byggs har granskats av någon som vet vad de gör. Grunderna gäller fortfarande:

Skydda inloggningar med tvåfaktorsautentisering.
Håll WordPress, tillägg och program uppdaterade, även på det som byggts snabbt.
Se till att det finns säkerhetskopior som går att återställa.
Bygger någon åt er med AI, fråga hur resultatet har testats och vem som tar ansvar när något behöver rättas.

Så använder vi AI på Admax

Vi använder AI där den gör nytta för våra kunder, men alltid med kontroller och människor runt omkring.

Domänhjälpen i kundpanelen förstår vad du vill göra med dina DNS-poster och tar fram ett förslag. Posterna kontrolleras sedan av vårt eget system, ingenting ändras förrän du har godkänt förslaget, och ändringen går att ångra.
Chatten på webbplatsen svarar utifrån vår kunskapsbas och lämnar över till en medarbetare när frågan kräver det.
Det vi bygger granskas av våra utvecklare, och vi låter även externa säkerhetstester gå igenom det.

Vill ni ha hjälp att komma igång?

AI är ett kraftfullt verktyg, och den som kombinerar det med kunskap och erfarenhet kommer att bygga bättre och snabbare än någonsin. Funderar ni på något ert företag vill ta fram med hjälp av AI, eller vill ni veta hur säker er nuvarande webbplats är, är ni välkomna att höra av er till oss.