Kunstig intelligens har muliggjort oprettelsen af profiler på sociale medier, der ser ud til at tilhøre rigtige mennesker, men som i virkeligheden er karakterer genereret af algoritmer. Denne situation har skabt forvirring og frustration blandt brugerne, som ofte opdager for sent, at den konto, de interagerer med, ikke drives af et menneske. For at imødegå dette har Instagram annonceret en ændring af sit system til identifikation af disse konti.
Den Meta-ejede platform har besluttet at erstatte den nuværende betegnelse 'AI-skaber' med en ny, mere eksplicit betegnelse: 'AI-genereret profil'. Målet er, at brugerne straks forstår, at personen, der vises i profilen, ikke eksisterer i virkeligheden, men er blevet skabt ved hjælp af kunstig intelligens. Denne opdatering er et svar på klager fra mange brugere, der følte sig bedraget ved at følge tilsyneladende autentiske profiler.
En ændring af etiketten for større gennemsigtighed
Den nye betegnelse 'AI-genereret profil' erstatter den tidligere, som nogle anså for tvetydig. Udtrykket 'AI-skaber' kan fortolkes som en henvisning til en menneskelig skaber, der bruger kunstig intelligens-værktøjer, når hele profilen i mange tilfælde repræsenterer en syntetisk identitet. Med denne ændring sigter Instagram mod at præcisere, at det er en karakter, der primært genereres eller konstrueres ved hjælp af AI.
Ifølge virksomheden er tiltaget en del af en bredere indsats for at hjælpe brugerne med nemt at skelne, hvornår de interagerer med en rigtig person, og hvornår de interagerer med en kunstig identitet. Meta begyndte at teste dette system tidligere i år efter at have modtaget feedback fra brugere, der udtrykte ubehag ved at følge profiler, der så menneskelige ud, og derefter opdagede, at de udelukkende var AI-genereret.
Etiketten aktiveres frivilligt via profilindstillinger. Kontoadministratorer, der allerede brugte den tidligere etiket, vil modtage en besked, der bekræfter, om den nye beskrivelse stadig er passende. Når den er aktiveret, vises badget på profilen og også ud for opslag, der ikke allerede har en specifik indikation om brugen af AI.
Tab af rækkevidde for utaggede profiler
Den primære ændring er, at tiltaget ikke længere udelukkende vil være informativt. Instagram har annonceret, at de vil begrænse rækkevidden af konti, der har AI-genererede avatarer uden den relevante etiket. Det betyder, at profilen ikke længere vil være berettiget til at blive vist i platformens anbefalinger, såsom Udforsk-sektionen eller Reels, som er rettet mod brugere, der endnu ikke følger kontoen.
Når Instagram registrerer en konto, der mistænkes for at bruge uidentificerede AI-tegn, sender de en besked til kontoadministratorerne. Fra det tidspunkt har de to muligheder: at tilføje etiketten 'AI-genereret profil' eller at indgive en appel, hvis de mener, at platformen har begået en fejl. Hvis appellen er succesfuld, vil kontoen genvinde sin berettigelse til at blive vist i anbefalinger.
Virksomheden har præciseret, at skabere, der kun bruger AI-værktøjer til at understøtte deres kreative proces, såsom retouchering af fotos, korrektion af tekst eller design af grafik, ikke behøver at aktivere denne etiket. Kravet gælder kun, når kontoens primære identitet er en kunstigt skabt person, såsom virtuelle influencere, fiktive karakterer eller konti, der bruger et syntetisk ansigt som deres primære billede.
Årsager til begrænsningen: tilfælde af hyppigt misbrug
Denne opdatering har til formål at afbøde forskellige vildledende praksisser, der udnytter fremkomsten af syntetisk indhold. Blandt de største problemer, Meta forsøger at bekæmpe, er økonomisk svindel og catfishing, hvor hyperrealistiske avatarer skabes for at generere fiktive romantiske forhold for at hverve penge eller fremme kryptovalutasvindel. Vildledende reklame nævnes også, hvor formodede livsstilsinfluencers modtager gratis produkter eller sponsorater fra brands, der ikke er klar over, at de interagerer med ikke-eksisterende karakterer.
Et andet almindeligt tilfælde er biometrisk identitetstyveri, som involverer uautoriseret kloning af rigtige ansigter for at bruge parallelle falske profiler, der tjener penge på indhold eller skader den oprindelige persons omdømme. Derudover er brugen af syntetiske kontofarme blevet opdaget til at simulere offentlig støtte til politiske formål, manipulere anbefalingsalgoritmer eller sprede falske nyheder – en praksis kendt som astroturfing.
Instagrams beslutning kommer på et tidspunkt, hvor såkaldte virtuelle influencere vinder popularitet på tværs af forskellige digitale platforme. Disse profiler kan samle hundredtusindvis eller endda millioner af følgere, på trods af at de personer, der optræder på billeder, videoer og opslag, faktisk ikke eksisterer. Væksten af disse konti har udløst debatter om gennemsigtighed, reklame, brugertillid og virkningen af kunstig intelligens på sociale medier.
Hvordan vil det nye system fungere?
De ansvarlige for AI-genererede profiler kan frivilligt aktivere etiketten i deres kontoindstillinger. Hvis Instagram registrerer, at en konto indeholder en AI-genereret persona uden den tilsvarende identifikation, sender de en besked til administratorerne. De har derefter to muligheder: at tilføje etiketten 'AI-genereret profil' eller indgive en klage, hvis de mener, at platformen har begået en fejl.
Virksomheden har også præciseret, at skabere, der kun bruger AI-værktøjer til at understøtte deres kreative proces, såsom at retouchere fotos, rette tekst eller designe grafik, ikke behøver at bruge mærkatet. Denne foranstaltning er ikke rettet mod dem, der bruger AI til at forbedre deres indhold, men mod dem, der foregiver at være rigtige mennesker, når de faktisk er karakterer genereret af algoritmer.
Meta anerkender, at deres systemer ikke altid er perfekte, og giver brugerne mulighed for at se begrænsninger fra deres kontostatus. Berørte brugere kan få adgang til anbefalinger igen ved at tilføje etiketten eller ved at appellere afgørelsen, hvis de mener, at Instagram har begået en fejl. Denne identifikation på profilniveau supplerer de etiketter, der allerede er anvendt på individuelle opslag, og som bruges til billeder, videoer og lyd, når der registreres kompatible tekniske indikatorer, eller når brugeren erklærer sin brug af disse værktøjer.
Den nye regel er en del af en bredere strategi fra Meta for at forbedre identifikationen af indhold, der er skabt eller modificeret ved hjælp af kunstig intelligens på Instagram, Facebook og i Threads. Med denne foranstaltning søger virksomheden at balancere væksten af generative værktøjer med brugernes behov for at vide, hvem eller hvad der står bag de profiler, de følger. Beslutningen kan danne præcedens for andre digitale platforme, der står over for lignende udfordringer relateret til syntetiske identiteter og AI-genererede influencers.
Kort sagt har Instagram taget et vigtigt skridt for at hjælpe brugerne med tydeligt at skelne mellem rigtige profiler og dem, der genereres af AI. Den nye etiket 'AI-genereret profil' erstatter den tidligere og har direkte konsekvenser for dem, der ikke bruger den: et tab af synlighed i anbefalinger. Foranstaltningen påvirker ikke skabere, der bruger AI som et redigeringsværktøj, men den påvirker dem, der præsenterer syntetiske karakterer, som om de var rigtige mennesker. Med denne opdatering styrker platformen sit engagement i gennemsigtighed og fællesskabets tillid, på et tidspunkt hvor generativ kunstig intelligens transformerer, hvordan indhold skabes og forbruges på sociale medier.