Kunstmatige intelligentie heeft het mogelijk gemaakt om socialemediaprofielen te creëren die van echte mensen lijken te zijn, maar in werkelijkheid door algoritmes gegenereerde personages zijn. Deze situatie heeft geleid tot verwarring en frustratie bij gebruikers, die vaak te laat ontdekken dat het account waarmee ze interactie hebben niet door een mens wordt beheerd. Om dit aan te pakken, heeft Instagram een wijziging aangekondigd in het systeem waarmee deze accounts worden geïdentificeerd.
Het platform van Meta heeft besloten om het huidige label 'AI-maker' te vervangen door een nieuw, explicieter label: 'door AI gegenereerd profiel'. Het doel is dat gebruikers direct begrijpen dat de persoon die in het profiel wordt getoond niet echt bestaat, maar is gecreëerd met behulp van kunstmatige intelligentie. Deze update is een reactie op klachten van veel gebruikers die zich misleid voelden door ogenschijnlijk authentieke profielen te volgen.
Een labelwijziging voor meer transparantie.
Het nieuwe label 'AI-gegenereerd profiel' vervangt het vorige, dat door sommigen als dubbelzinnig werd beschouwd. De term 'AI-maker' kon worden geïnterpreteerd als een verwijzing naar een menselijke maker die gebruikmaakt van tools voor kunstmatige intelligentie, terwijl het profiel in veel gevallen een synthetische identiteit vertegenwoordigt. Met deze wijziging wil Instagram duidelijk maken dat het een personage betreft dat primair met behulp van AI is gegenereerd of gecreëerd.
Volgens het bedrijf maakt de maatregel deel uit van een bredere inspanning om gebruikers te helpen gemakkelijk te onderscheiden wanneer ze met een echt persoon communiceren en wanneer ze met een kunstmatige identiteit communiceren. Meta begon eerder dit jaar met het testen van dit systeem na feedback van gebruikers die aangaven zich ongemakkelijk te voelen bij het volgen van profielen die er menselijk uitzagen, om er vervolgens achter te komen dat ze volledig door AI waren gegenereerd.
Het label wordt vrijwillig geactiveerd via de profielinstellingen. Accountmanagers die het vorige label al gebruikten, ontvangen een melding om te bevestigen of de nieuwe beschrijving nog steeds geschikt is. Na activering verschijnt de badge op het profiel en ook naast berichten die nog geen specifieke vermelding van het gebruik van AI bevatten.
Verlies van bereik voor profielen zonder tags
De belangrijkste verandering is dat de maatregel niet langer puur informatief zal zijn. Instagram heeft aangekondigd dat het het bereik zal beperken van accounts die AI-gegenereerde avatars gebruiken zonder het juiste label. Dit betekent dat het profiel niet langer in aanmerking komt voor de aanbevelingen van het platform, zoals de Explore-sectie of Reels, die gericht zijn op gebruikers die het account nog niet volgen.
Wanneer Instagram een account detecteert dat mogelijk gebruikmaakt van niet-geïdentificeerde AI-personages, stuurt het een melding naar de beheerders van het account. Zij hebben vervolgens twee opties: het label 'AI-gegenereerd profiel' toevoegen of bezwaar aantekenen als ze denken dat het platform een fout heeft gemaakt. Als het bezwaar wordt gehonoreerd, komt het account weer in aanmerking voor aanbevelingen.
Het bedrijf heeft verduidelijkt dat makers die AI-tools alleen gebruiken ter ondersteuning van hun creatieve proces, zoals het retoucheren van foto's, het corrigeren van tekst of het ontwerpen van afbeeldingen, dit label niet hoeven te activeren. De vereiste geldt alleen wanneer de primaire identiteit van het account die van een kunstmatig gecreëerd persoon is, zoals virtuele influencers, fictieve personages of accounts die een synthetisch gezicht als hoofdafbeelding gebruiken.
Redenen voor de beperking: gevallen van frequent misbruik
Deze update is bedoeld om diverse misleidende praktijken tegen te gaan die misbruik maken van de opkomst van synthetische content. Meta wil met name financiële oplichting en catfishing aanpakken, waarbij hyperrealistische avatars worden gecreëerd om fictieve romantische relaties te genereren met als doel geld af te troeven of cryptovalutafraude te promoten. Ook misleidende reclame wordt genoemd, waarbij zogenaamde lifestyle-influencers gratis producten of sponsoring ontvangen van merken, zonder te beseffen dat ze met niet-bestaande personages communiceren.
Een ander veelvoorkomend geval is biometrische identiteitsdiefstal, waarbij zonder toestemming echte gezichten worden gekloond om parallelle nepaccounts te beheren die content te gelde maken of de reputatie van de oorspronkelijke persoon schaden. Daarnaast is het gebruik van synthetische accountfarms geconstateerd om publieke steun voor politieke doelen te simuleren, aanbevelingsalgoritmes te manipuleren of nepnieuws te verspreiden – een praktijk die bekendstaat als astroturfing.
Het besluit van Instagram komt op een moment dat zogenaamde virtuele influencers aan populariteit winnen op diverse digitale platforms. Deze profielen kunnen honderdduizenden of zelfs miljoenen volgers vergaren, ondanks het feit dat de mensen die in de foto's, video's en berichten verschijnen, niet echt bestaan. De groei van deze accounts heeft discussies aangewakkerd over transparantie, reclame, gebruikersvertrouwen en de impact van kunstmatige intelligentie op sociale media.
Hoe zal het nieuwe systeem werken?
De beheerders van door AI gegenereerde profielen kunnen het label vrijwillig activeren in hun accountinstellingen. Als Instagram detecteert dat een account een door AI gegenereerd profiel zonder de bijbehorende identificatie bevat, stuurt het een melding naar de beheerders. Zij hebben dan twee opties: het label 'door AI gegenereerd profiel' toevoegen of bezwaar indienen als ze denken dat het platform een fout heeft gemaakt.
Het bedrijf heeft ook verduidelijkt dat makers die AI-tools alleen gebruiken ter ondersteuning van hun creatieve proces, zoals het retoucheren van foto's, het corrigeren van tekst of het ontwerpen van afbeeldingen, het label niet hoeven te gebruiken. Deze maatregel is niet gericht tegen degenen die AI gebruiken om hun content te verbeteren, maar tegen degenen die zich voordoen als echte mensen terwijl ze in werkelijkheid personages zijn die door algoritmes zijn gegenereerd.
Meta erkent dat haar systemen niet altijd perfect zijn en stelt gebruikers in staat om beperkingen te bekijken via hun accountstatus. Betrokken gebruikers kunnen weer toegang krijgen tot aanbevelingen door het label toe te voegen of door bezwaar te maken tegen de beslissing als ze denken dat Instagram een fout heeft gemaakt. Deze identificatie op profielniveau vormt een aanvulling op de labels die al worden toegepast op individuele berichten, die worden gebruikt voor afbeeldingen, video's en audio wanneer compatibele technische indicatoren worden gedetecteerd of wanneer de gebruiker aangeeft deze tools te gebruiken.
De nieuwe regel maakt deel uit van een bredere strategie van Meta om de identificatie van content die is gemaakt of bewerkt met behulp van kunstmatige intelligentie op Instagram, Facebook en Threads te verbeteren. Met deze maatregel wil het bedrijf een evenwicht vinden tussen de groei van generatieve tools en de behoefte van gebruikers om te weten wie of wat er achter de profielen zit die ze volgen. De beslissing zou een precedent kunnen scheppen voor andere digitale platforms die met vergelijkbare uitdagingen te maken hebben met betrekking tot synthetische identiteiten en door AI gegenereerde influencers.
Kortom, Instagram heeft een belangrijke stap gezet om gebruikers te helpen duidelijk onderscheid te maken tussen echte profielen en profielen die door AI zijn gegenereerd. Het nieuwe label 'door AI gegenereerd profiel' vervangt het vorige en heeft directe gevolgen voor degenen die het niet gebruiken: een verminderde zichtbaarheid in aanbevelingen. De maatregel heeft geen gevolgen voor makers die AI als bewerkingstool gebruiken, maar wel voor degenen die synthetische personages presenteren alsof het echte mensen zijn. Met deze update versterkt het platform zijn streven naar transparantie en het vertrouwen van zijn community, in een tijd waarin generatieve kunstmatige intelligentie de manier waarop content op sociale media wordt gecreëerd en geconsumeerd, verandert.