Nordisk förtroendemodell för AI-system

För etisk, ansvarsfull AI med transparens och stöd från AI-assistent

AI Assistent

Hej! Jag är här för att hjälpa dig slutföra Förtroendemodellens självutvärdering för ditt AI-system. Jag kan förklara reglerande krav, klargöra frågor och vägleda dig genom efterlevnad enligt EU:s AI-förordning och GDPR.

05:51 PM

AI Assistent

Laddar röstläge...

Förtroendemodellen

Step 1: Allmän information

1

2

3

4

5

Allmän information

Organisations- och AI-systemdetaljer

Organisationsnummer*

Organisationsnamn*

Namn på AI-system*

URL till AI-systeminformation

Typ av AI-system*

Vilka grupper kommer att påverkas av AI-systemet?*

Allmänheten

Barn och unga (under 18 år)

Äldre personer (65+)

Personer med funktionsnedsättning

Etniska minoriteter

Individer med låg inkomst

Offentlig sektor (t.ex. kommun, myndighet)

Privat sektor (företag)

Känsliga yrkesgrupper (t.ex. vårdpersonal, lärare)

Brottsbekämpande myndigheter

Anställda inom organisationen

Studenter eller elever

Arbetsssökande

Individer som ansöker om boende eller sociala tjänster

Individer inom migrationsförvaltning

Inga specifika grupper

Juridisk efterlevnad

Juridiska och regulatoriska efterlevnadskrav

Kommer privatpersoner och företag att informeras om hur AI-systemet fungerar?*

Ja

Nej

Är det juridiskt fastställt att du kan använda den data du vill använda vid utveckling, träning eller användning av ditt AI-system?*

Ja

Nej

Behandlar du känsliga personuppgifter vid utveckling, träning eller användning av ditt AI-system?*

Ja

Nej

Har du genomfört en riskanalys av diskriminering enligt diskrimineringslagen?*

Ja

Nej

Innebär AI-systemet social poängsättning (rangordning av individer baserat på deras beteende, egenskaper eller drag)?*

Ja

Nej

Använder AI-systemet biometrisk identifiering (t.ex. ansiktsigenkänning) i offentliga utrymmen för realtidsövervakning?*

Ja

Nej

AI-systemet används inom:*

Datasäkerhet

Dataskydd och säkerhetsåtgärder

Har du genomfört en analys av AI-systemet ur ett informationssäkerhetsperspektiv?*

Ja

Nej

Har du klargjort och dokumenterat krav för planering, dokumentation, mätningar, testning, verifiering och spårbarhet?*

Ja

Nej

Finns det andra komponenter (eller regleringar) inbyggda i IT-system som interagerar med AI-systemet och påverkar slutresultatet?*

Ja

Nej

Kommer insamlad data att delas med tredje parter?*

Ja

Nej

Hur ser tillgängligheten av användbar data ut?*

Hur lagras data?*

Vilka metoder används för att skydda data?*

Kryptering vid lagring och överföring

Åtkomstkontroll och behörighetshantering

Anonymisering eller pseudonymisering av känslig data

Regelbundna säkerhetsrevisioner och övervakning

Inga metoder används

Annat

Finns det krav på att data ska raderas?*

Ja

Nej

Finns det bias i insamlingen av träningsdata eller testdata som behöver tas hänsyn till?*

Ja

Nej

Modellprestanda

AI-modellprestanda och övervakning

Är resultaten från AI-systemet reproducerbara?*

Vilka mätningar av modellprestanda används vid träning av AI-systemet?*

Förviringsmatris

Lyft-kurva

ROC-kurva

Noggrannhetspoäng

Annat

Ingen mätning är på plats

Har du testat AI-systemet med riktiga användare?*

Ja

Nej

Har du spårbarhet och övervakning av AI-systemet?*

Ja

Nej

Finns relevanta licenser på plats för AI-systemet?*

Ja

Nej

Har du rutiner för att hantera felfunktioner eller fel i AI-systemet?*

Ja

Nej

Optimerar du AI-systemet baserat på insamlad prestandadata?*

Ja

Nej

Transparens & Övervakning

Transparens- och översynsmekanismer

Meddelas användare att de interagerar med ett AI-system?*

Ja

Nej

Meddelas användare när innehåll genereras av AI-system?*

Ja

Nej

Kan du förklara hur AI-systemet producerar sina resultat?*

Ja

Nej

Vilken grad av mänsklig involvering finns det i beslutfattandeprocesser?*

Meddelas berörda individer om automatiserat beslutfattande?*

Ja

Nej

Finns det mänsklig översyn av AI-systemet?*

Ja

Nej