Nu kommer EU's lov om kunstig intelligens (AI Act)
Nu kommer EU med verdens første lov om kunstig intelligens, og selvom den primært får betydning for de store tech-virksomheder, så vil det også påvirke dig og mig i helt konkrete tilfælde.
Helt grundlæggende er formålet med loven at forhindre misbrug og krænkelser af privatlivet, og forsøge at dæmme op for den forventede syndflod af misinformation, der følger i takt med, at AI kan generere fuldstændig virkelighedstro video og tale, der kan snyde os til at tro, at politikere eller offentlige personer har sagt eller gjort noget, der efterfølgende påvirker vores handlinger eller opfattelser af dem.
Lovgivningen vil omfatte alle borgere, virksomheder og organisationer i EU og definerer kunstig intelligens som computersystemer, der udfører opgaver, der normalt kræver menneskelig intelligens. Nogle systemer vil blive forbudt, herunder dem, der opsamler billeder og person-specifik information eller kategoriserer folk ud fra biometriske data. Andre, mindre indgribende systemer, vil blive reguleret med krav om gennemsigtighed og give borgerne ret til at få indsigt i, hvad der indsamles om dem, eller hvordan AI har været brugt til at foretage afgørelser, der påvirker dem – det kunne være i forhold til skat og offentlige ydelser.
Generelt vil eksisterende AI-systemer, som ChatGPT, forblive tilgængelige, men udviklere skal sikre overholdelse af loven, herunder sikre ophavsret og gennemsigtighed omkring, hvorfra indholdet stammer, eller hvordan det er genereret.
Helt konkret skal AI-genereret indhold mærkes tydeligt, så når du fremover ser såkaldte ”deepfakes”, som i videoen herunder, så skal det markeres, at der er tale om materiale, der er kunstigt genereret og ikke afspejler virkeligheden.
En anden meget konkret konsekvens er, at virksomheder ikke længere må anvende automatisk screening af dit CV, når du søger job. I dag bruger mange store virksomheder såkaldt ATS-software til at effektivisere udvælgelsen af ansøgere. ATS, eller Applicant Tracking Software, fungerer ved at screene din ansøgning og dit CV og holde det op mod jobannoncen og prædefinerede kriterier eller søgeord. I dag kan disse systemer autonomt sende afslag til ansøgere, uden at et menneske nogensinde har set, hvad du har sendt ind – det vil ikke længere være tilladt under den nye AI-lov.
Overtrædelse af loven kan medføre bøder op til flere millioner euro eller en procentdel af en virksomheds årlige omsætning. Bødestraffene skal motivere de store tech-giganter til at gøre langt mere for enten at fjerne eller tydeligt mærke indhold på deres platforme, så man ikke er i tvivl, når noget er AI-genereret.
Kritikere af loven mener ikke, at det i praksis vil være muligt for de store platforme at identificere AI-genereret materiale. Historien viser dog, at EU's astronomiske bøder har haft en meget direkte indflydelse på tech-firmaernes motivation til at finde løsninger. I dag kan man eksempelvis ikke uploade lyd til YouTube eller Instagram, uden at indholdet screenes i forhold til, om det bryder rettigheder for professionelle musikere. Selvom loven kun gælder inden for EU, forventes det alligevel, at den vil få global udbredelse, fordi det ikke giver mening for de store indholdsplatforme at implementere løsninger, der kun gælder i EU. Desuden forventes lignende lovgivning inden længe at følge efter i USA.
Loven træder, på de fleste områder, i kraft om 12 måneder, mens visse dele – hvor man direkte forbyder noget – allerede træder i kraft om et halvt år, og senest i 2027 vil alle områder være omfattet.
Indtil da vil du altså selv skulle holde styr på, om Biden, Trump eller CNNs nyhedsvært rent faktisk har sagt, hvad du ser og hører dem sige. Test dig selv i videoen herunder – når man ved det, kan man godt se de små fejl, men det er alligevel skræmmende god kvalitet, og man kan godt forstå, hvis nogen bliver snydt.
-