Børns Vilkår anbefaler at forbyde menneskeliggjorte AI-chatbots til børn

48 pct. af alle børn i 4. og 7. klasse debuterer på sociale medier, før de er fyldt 10 år, og 94 pct. har en profil på minimum ét socialt medie udover YouTube, før de fylder 13 år, viser en undersøgelse fra Børns Vilkår. Undersøgelsen viser desuden, at børn kommer tidligere og tidligere på sociale medier: 56 pct. af de børn, som går i 4. klasse, havde deres debut på sociale medier, før de var fyldt 10 år. Det samme gælder for 39 pct. af børnene i 7. klasse. 

Blandt de mest populære medier er platformen Snapchat. Hele 91% af 7. klasser og 49% af 4. klasser har Snapchat som et af deres fortrukne medier. Snapchat lancerede i foråret 2023 My AI - en chatbot der kun kan slettet, hvis man betaler 35 kr. for snapchat om måneden. Eftersom mange børn er på Snapchat, er My AI i praksis blevet mange børns første møde med en generativ kunstig intelligens. Det betyder også, at børn typisk møder kunstig intelligens for første gang i en sammenhæng og på et medie, hvor de færdes uden voksne. Blandt de børn, der er på Snapchat, har 77 pct. prøvet at chatte med My AI minimum en enkelt gang. My AI er dermed med til at forme, hvordan børn opfatter AI og déts anvendelses muligheder.  

Interview med børnene viser en dissonans mellem, hvad børnene ved, og hvad de oplever, når de interagerer med My AI. Flere af børnene i undersøgelsen er klar over, at My AI er en chatbot, men deres erfaringer med den gør alligevel mange børn i tvivl. For når den opfører sig så meget som et menneske, må der da være et menneske i den anden ende? Særligt blandt ensomme børn er My AI populært. Mens det er hver ottende af de børn, der ikke oplever ensomhed, der oplever en særlig fortrolighed med My AI, gælder det samme for hvert fjerde barn, der oplever ensomhed. 

Generelt er tilstedeværelsen online særligt udfordrende for de børn, der oplever manglende tilhør og fællesskab eller kæmper med lavt selvværd, et negativt kropsbillede eller føler sig anderledes. Selvom mange børn forholder sig kritisk og reflekteret til deres liv på sociale medier, viser undersøgelsen, hvordan børnene bliver påvirket af de mekanismer og vilkår, der er udstukket af Tech-industrien. Hvis vi skal hjælpe udsatte børn er det altså vigtigt, at vi også gør en indsats for at forbedre deres digitale liv og kompetencer. 

Det er en udbredt forståelse blandt mange børn i 4. og 7. klasse, at de selv bærer en stor del af 
ansvaret for, hvad de oplever, når de færdes på sociale medier. De fleste børn har derfor udviklet handlestrategier til at beskytte sig selv, fx ved at anmelde indhold til platformene eller ved at være opmærksomme på, hvilke data de deler og med hvem. Børnene er omvendt i tvivl om, hvilken rolle forældre og politikere kan og bør spille, ligesom de problematiserer, at forældre og politikere ikke ved nok om den digitale udvikling. Børnene er dog enige om, at Tech-virksomhederne har et ansvar, og at de i langt højere grad, end det er tilfældet i dag, bør arbejde for at give børn større sikkerhed og tryghed. 


Anbefalinger fra Børns Vilkår

På baggrund af undersøgelsens resultater kommer Børns Vilkår med 6 anbefalinger til politikkere:

1. Prioriter børnestemmer og børneinddragelse i EU´s reguleringsarbejde
2. Stil politisk krav om effektiv aldersverificering 
3. Forbyd influencerreklamer for kommercielle produkter til børn
4. Forbyd menneskeliggjorte AI-chatbots til børn
5. Styrk børns muligheder for at anmelde indhold
6. Beskyt børn og unges data og privatliv

I rapporten kommer børnene også med anbefalinger til Tech-platformene. De foreslår bl.a. at gøre det muligt at slette My AI uden betaling, og at Tech-virksomhederne udvikler metoder 
til at sikre, at ubehageligt indhold ikke deles på platformene.


Læs rapporten her.