Vanliga frågor och svar om AI

Svar: Är det ett AI-system enligt definitionen kan det vara ett högrisksystem enligt AI-förordningen eftersom det används för rekrytering, urval, befordran eller uppsägning av personer.

Det betyder att om system används för att fatta eller påverka den typen av beslut så kommer det ses som ett högrisksystem och då måste de särskilda kraven på riskbedömning, loggning, mänsklig övervakning med mera, vara uppfyllda. De AI system som automatiskt sållar bort sökande, rangordnar CV:n eller analyserar tester är ofta högrisksystem.

Svar: Ansvaret ligger på arbetsgivaren. Om ni använder förbjuden AI (t.ex. känsloigenkänning av anställda) kan det leda till höga böter och rättsliga följder. Därför är det viktigt att göra en tidig kontroll och dokumentera varför ni bedömer att ett system är tillåtet.

Svar: Syftet med AI-kunskap är att säkerställa att personal och andra som är involverade i användning och drift av AI-system har tillräcklig kunskap och förståelse för hur AI fungerar i praktiken i just deras roll.

Det kan till exempel vara

• hur AI-systemet fungerar på övergripande nivå
• begränsningar och risker
• bias och felkällor
• när man inte ska lita på output
• hur man övervakar systemet
• hur man rapporterar incidenter

Det handlar alltså inte om att alla ska vara tekniska experter.

Svar: En AI-agent är ett system som kan utföra uppgifter självständigt, t ex boka möten, transkribera intervjuer eller analysera CV:n. Det är tillåtet som ett administrativt stöd men det är inte tillåtet att göra dolda inspelningar eller för att göra känsloigenkänning ( utom vid säkerhet/hälsa) eller att AI-agenten fattar automatiska beslut som anstälning/uppsägning.

Arbetsgivaren ska alltid säkerställa:

• Transparens dvs alla berörda ska informeras
• Dataskydd dvs GDPR följs och känsliga uppgifter skyddas
• Arbetsrätt: riskbedömning vid påverkan på arbete/organisation, information och förhandling
• Policy för att ge tydliga interna regler för användningen

Tänk på att en AI-agent kan vara kraftfulla verktyg på jobbet, men bara om de används öppet och korrekt. Att låta en AI delta i möten utan att det är tydligt kommunicerat kan vara hemlig avlyssning. Genom tydliga regler, transparens och respekt för integritet och med mänsklig kontroll blir AI ett välkommet stöd i arbetsvardagen.

Ett AI- system definieras som ett maskinbaserat system som är utformat för att i varierande grad av autonomi genererar data såsom förutsägelser, innehåll, rekommendationer eller beslut.  

Ett AI-system som automatiskt rankar, filtrerar och analyserar kandidater utifrån CV, tester eller intervjuer omfattas av AI-förordningen. Enkla automatiseringar, som används utan att påverka beslut eller riskera att påverka en enskilds rättigheter omfattas inte av AI-förordningens krav. Det kan till exempel vara bokningsverktyg som schemalägger intervjuer, mejlmallar eller påminnelser. Beslut som fattas helt av människor eller system som bara visar data omfattas inte heller av AI-förordningens krav.   

Svar: Om beslutet har rättsliga eller betydande konsekvenser (till exempel om en kandidat väljs bort i rekrytering) måste en mänsklig omprövning finnas som standard. Mindre beslut (som automatiska stavningskontroller) omfattas inte.

Svar: Ja, DPIA (Data Protection Impact Assessment) i översättning risk- och konsekvensanalys utifrån dataskyddsförordningen, GDPR, behöver göras om systemet behandlar känsliga personuppgifter eller kan innebära hög risk för individers rättigheter. DPIA är en del av GDPR:s krav på förebyggande skydd.

Svar: Ja, arbetsgivaren ansvarar för de verktyg som används i verksamheten. Det gäller även om diskrimineringen sker oavsiktligt genom AI. Därför behöver ni granska och följa upp systemen regelbundet.

Svar: Ja, det är ett krav i AI-förordningen som kan härledas till diskrimineringslagens uppställda krav. Diskrimineringslagen ställer krav på att arbetsgivare och andra aktörer ska arbeta systematiskt med att förebygga och motverka diskriminering, vilket inkluderar att analysera och åtgärda risker i beslutsprocesser.

Så den som använder ett högrisk-AI-system t ex för rekrytering måste bedöma potentiella systemrisker som härrör från utformningen, funktionen och användningen av tjänsten, samt vidta lämpliga riskbegränsningsåtgärder och göra en konsekvensbedömning.

Svar: När AI påverkar arbetsorganisationen, arbetsuppgifter eller villkor – exempelvis schemaläggning, uppföljning eller övervakning. Enligt 11§ MBL måste en arbetsgivare som är bunden av kollektivavtal förhandla vid viktigare förändringar.

Svar: Om förändringen är viktigare och kan tänkas påverka arbetstagare eller dess organisation ska det förhandlas. Är det en mindre förändring som t. ex. ett återinförande av ett tidigare system som används som inte påverkar arbets- eller anställningsvillkor kan information räcka.

Svar: Ja, om du som arbetsgivare tillåter det. Om det finns känslig eller konfidentiell information som du inte vill ska röjas behöver det vara tydligt att sådan information inte får matas in i ChatGPT eller andra öppna språkmodeller. Företaget behöver alltså ha en AI-policy som anger tydliga gränser.

Svar: Genom tekniska spärrar, utbildning och tydliga riktlinjer. Till exempel genom att det i en AI-policy framgår att inga kunduppgifter eller interna affrärsstrategier får användas i publika AI-verktyg.

Svar: Nej, uppsägningar måste som huvudregel ske av arbetsgivaren personligen. Enligt 7–10 §§ LAS krävs sakliga skäl för uppsägning, vilket kan vara arbetsbrist eller personliga förhållande. Uppsägningen ska vara skriftlig och överlämnas personligen till arbetstagaren eller skickas med rekommenderat brev om den anställde inte går att nå.

Arbetsgivaren måste själv kunna motivera uppsägningen och beslutet kan inte delegeras till ett AI-system. AI kan dock användas som underlag för att analysera data och identifiera relevanta faktorer, men det slutgiltiga beslutet måste fattas av arbetsgivaren.

Svar: Arbetsgivaren får följa upp prestationer, men det finns begränsningar för hur AI får användas. Enligt AI-förordningen är känsloigenkänning på arbetsplatser förbjuden, med undantag för medicinska eller säkerhetsändamål. Vidare kräver 3 kap. 2a § arbetsmiljölagen att arbetsgivaren riskbedömer förändringar i arbetsmiljön, inklusive psykosociala effekter av övervakning.

AI-övervakning kan också utlösa förhandlingsskyldighet enligt 11§ MBL och informationsskyldighet enligt 19§ MBL, särskilt om det påverkar integritet och arbetsorganisation. Arbetsgivaren måste säkerställa att övervakningen är proportionerlig och att den inte kränker arbetstagarnas rättigheter.

Svar: Ja, arbetsgivaren har en skyldighet att informera de anställda om AI-användning. Enligt artiklarna 13–14 i GDPR ska arbetsgivaren informera om automatiserat beslutsfattande och syftet med behandlingen av personuppgifter. AI-förordningen kräver dessutom att arbetstagarrepresentanter informeras innan högrisk-AI tas i bruk.

Om AI används för profilering eller automatiserade beslut måste arbetsgivaren:

Upplysa den anställde om användningen.

Ge möjlighet att få beslutet granskat av en människa.

Erbjuda möjlighet att bestrida beslutet.

Svar: Nej, AI kan inte ensamt sätta lön. Lönesättning sker genom arbetsgivarens tillämpning av kollektivavtal eller genom individuell överenskommelse mellan arbetsgivare och arbetstagare. Enligt 2 kap. 1§ DL ska lika lön ges för lika arbete, och arbetsgivaren måste kunna motivera löneskillnader objektivt.

AI kan användas som underlag för lönejämförelser och analys, men det slutgiltiga beslutet måste alltid fattas av arbetsgivaren.

Svar: Det kan utgöra intrång i den anställdes rätt till privatliv enligt artikel 8 i EKMR som handlar om en persons rätt till privatliv och GDPR. Arbetsgivaren måste säkerställa att behandlingen är transparent, nödvändig och proportionerlig samt att den anställde informeras om behandlingen. Det finns rättsfall från Europadomstolen om Barbulescu mot Rumänien (nr 61496/08) som t. ex. slog fast detta och som betonade att den anställde har en ”rimlig förväntan på privatliv” även på arbetsplatsen.