Kan man lita på AI?
Ibland. AI-assistenter har ofta rätt, men de kan också hitta på saker med full övertygelse. Tricket är att veta när du behöver dubbelkolla, och hur du gör det.
Därför hittar AI på
En språkmodell skriver det som troligast kommer härnäst. Oftast är det troliga också det sanna, men inte alltid. Saknar modellen kunskap fyller den gärna i med något som låter rimligt: en paragraf i en lag som inte finns, en bok som aldrig skrivits, en siffra som är lite fel. Det kallas att hallucinera, och det farliga är att det låter precis lika säkert som när den har rätt.
Den håller gärna med dig
AI-assistenter är tränade att vara hjälpsamma, och det kan slå över i att hålla med. Frågar du ”visst är det bättre att amortera än att spara?” får du lätt ett ja. Ställ hellre frågan neutralt, och be om argument åt båda hållen.
Den vet inte vad som hände i går
Modellens kunskap tar slut vid en viss tidpunkt. Priser, regler, öppettider och nyheter kan ha ändrats sedan dess. Vissa tjänster kan söka på webben, men kolla ändå datumet på det som är tidskänsligt.
När du ska dubbelkolla
- Hälsa: kolla med 1177 eller vården.
- Myndigheter och lagar: kolla på myndighetens egen webbplats, till exempel Skatteverket eller Försäkringskassan.
- Pengar och avtal: kolla med banken, försäkringsbolaget eller Konsumentverket.
- Siffror, citat och källor: öppna källan och se att den finns och säger det AI:n påstår.
- Allt du ska skicka vidare: läs igenom innan du skickar mejlet eller publicerar texten.
Så får du ärligare svar
- Skriv att det är okej att säga ”jag vet inte”.
- Fråga ”hur säker är du, och vad i svaret kan vara fel?”.
- Be om källor och öppna dem själv.
- Be den visa uträkningen steg för steg när det gäller siffror.
- Ge den underlaget själv. Sammanfattar den en text du klistrat in är risken för påhitt mycket mindre.
Där den är som mest pålitlig
AI är stark när den jobbar med det du ger den: skriva om, sammanfatta, översätta, förklara ett begrepp, hitta på idéer eller ge synpunkter på din text. Den är svagast när den ska komma ihåg exakta detaljer om världen: namn, datum, siffror och källor.