Prin proiectul de lege „Kids Act”, prezentat joi, 17 septembrie, de Ursula von der Leyen, Comisia Europeană dorește să reglementeze funcționalitățile care pot determina minorii să petreacă mai mult timp pe rețelele sociale. Proiectul prevede, de asemenea, măsuri de protecție împotriva anumitor filtre și instrumente care favorizează comparația socială.

Un deget alunecă în sus. Un videoclip dispare, altul apare imediat. Apoi un al treilea. Și încă unul. Nu există cu adevărat un sfârșit… și tocmai asta este problema, scrie BFM TV.

Rețelele sociale nu sunt acuzate doar că le arată copiilor conținuturi inadecvate. Acum sunt suspectate că îi incită, prin modul lor de funcționare, să rămână conectați. Comisia Europeană dorește să intervină asupra acestui mecanism. Joi, 17 septembrie, Ursula von der Leyen a prezentat Kids Act, un proiect de reglementare menit să consolideze protecția minorilor în mediul online.

Proiectul se înscrie într-o mișcare mai amplă la nivel european. Mai multe țări, printre care Franța, doresc să restricționeze accesul adolescenților la rețelele sociale, în contextul în care efectele acestor platforme asupra celor mai tineri suscită îngrijorări tot mai mari. Comisia propune o abordare treptată.

Astfel, ea dorește să interzică accesul la rețelele sociale pentru copiii sub 13 ani. În schimb, între 13 și 15 ani, tinerii ar avea la dispoziție „mini-conturi”, legate de cele ale părinților lor și limitate la o oră de utilizare pe zi. Începând cu vârsta de 15 ani, conturile personale ar fi autorizate, dar cu măsuri de protecție sporite până la atingerea majoratului.

Însă Kids Act nu se limitează doar la problema vârstei. Acesta vizează, de asemenea, ceea ce se întâmplă odată ce aplicația este deschisă, impunând serviciilor utilizate de minori reguli de proiectare denumite „safety by design”, precizează proiectul de lege. Obiectivul? Combaterea „dark patterns”, adică alegerile de interfață care exploatează anumite prejudecăți cognitive și mecanisme psihologice pentru a orienta comportamentul utilizatorului și a prelungi timpul petrecut de acesta într-o aplicație.

„Încă un videoclip”

Este probabil cel mai cunoscut mecanism: derularea infinită, sau „scrolling infinit”. Pe TikTok, pe Instagram cu funcția sa Reels sau pe alte platforme, este suficient să glisezi cu degetul pentru a trece la următorul conținut. Niciun ecran de tipul „ați ajuns la capăt”, nicio pagină următoare pe care să dai clic, niciun punct real de oprire. Aceeași logică se aplică și redării automate. De îndată ce un videoclip se termină, altul îi ia locul.

Această succesiune continuă este tocmai ceea ce proiectul european dorește să limiteze. Comisia vizează serviciile concepute astfel încât să încurajeze o utilizare „compulsivă sau excesivă” în rândul minorilor, în special atunci când aceștia folosesc derularea infinită sau redarea automată fără pauze reale.

„Rabbit holes” și algoritmi

În centrul problemelor rețelelor sociale se află algoritmii de recomandare. Indispensabili în funcționarea lor actuală, aceste linii de cod informatic sunt deosebit de criticate. Un adolescent urmărește un videoclip despre sport? Platforma îi propune altul. Apoi încă unul, rafinându-și treptat recomandările pe baza interacțiunilor sale. Sistemul urmărește astfel să le propună utilizatorilor videoclipurile cele mai adaptate gusturilor lor, pentru a-i reține cât mai mult posibil.

Problema, în viziunea Comisiei, nu se limitează la timpul petrecut online. Aceste recomandări pot conduce un minor către conținuturi din ce în ce mai îndepărtate de ceea ce a ales inițial să vizioneze… chiar dacă asta înseamnă să-l închidă într-un singur tip de conținut. Fenomenul poate fi deosebit de periculos atunci când este vorba de videoclipuri legate de sinucidere, de automutilare sau chiar de discursuri de ură.

Textul menționează în special riscul de a cădea în „rabbit holes”, acele spirale de conținut recomandat din care devine dificil să ieși, precum și riscul de „a intra în contact cu utilizatori rău intenționați”.

Prin urmare, Kids Act prevede ca, în cazul minorilor, sistemele de recomandare să fie orientate mai mult către siguranță, calitate și sănătate mintală decât către implicare. Conținuturile urmărite în mod voluntar de utilizator trebuie să fie privilegiate, în timp ce personalizarea bazată pe activitatea sa ar fi dezactivată în mod implicit.

Notificările, semnalul care spune „întoarce-te”

Notificările sunt un alt mijloc de a-l face pe utilizator să se întoarcă. Un comentariu, un mesaj nou, o persoană care tocmai a publicat ceva… Luate separat, aceste semnale par nesemnificative. Împreună, ele transformă telefonul într-o mașinărie de revenire la rețeaua socială.

„Notificările push trebuie să fie dezactivate în mod implicit și trebuie concepute astfel încât să nu afecteze nevoile de somn ale minorilor și nici timpul petrecut la școală”, precizează Comisia Europeană în proiectul său de lege.

În viziunea autorilor textului, acestea ar trebui, așadar, interzise pe durata a „cel puțin opt ore consecutive între ora 22:00 și ora 8:00 dimineața”. Doar notificările care rezultă din „alerte de securitate urgente” ar trebui să fie permise în aceste intervale orare.

Likes, vizualizări și gamification

Urmează apoi mecanismele de recompensare. Pe rețelele sociale, numărul de aprecieri, vizualizări, distribuiri sau abonați constituie o formă de indicator al popularității. O postare are succes? Cifra crește. Un videoclip e un eșec? Rămâne disperat de scăzută. Toate acestea sunt forme de recompense sociale susceptibile să alimenteze comparația cu ceilalți și căutarea validării.

De altfel, această logică nu este rezervată doar rețelelor sociale. Anumite aplicații utilizează mecanisme împrumutate din jocurile video. Pe ordinea de zi: serii de zile consecutive de îndeplinit, insigne de obținut sau chiar cadouri virtuale. Obiectivul este același: transformarea unui obicei într-o rutină zilnică a cărei continuitate devine dificil de întrerupt. Principiul streak-ului de la Duolingo, de exemplu, se bazează tocmai pe această logică. Utilizatorul este încurajat în mod regulat să revină pentru a nu-și pierde seria de zile.

Și chiar și chipul devine un produs care trebuie optimizat

Utilizarea filtrelor de înfrumusețare a devenit ceva obișnuit pe numeroase rețele sociale. Acestea permit, de exemplu, netezirea texturii pielii și eliminarea ridurilor, subțierea nasului și a feței, adăugarea de alunițe sau aplicarea unui machiaj virtual. Există riscul de a crea un decalaj între imaginea reală de sine și imaginea îmbunătățită, generând astfel insatisfacție și disconfort în rândul adolescenților. Un mecanism care poate, de asemenea, să îi încurajeze să posteze mai mult, să urmărească reacțiile și, în final, să revină regulat pe platformă.

Prin urmare, Comisia Europeană intenționează să reglementeze funcționalitățile care „sporesc comparația socială” sau „denaturează prin idealizarea imaginii minorilor”, în special atunci când le înfrumusețează sau le idealizează aspectul în mod disproporționat. Filtrele inofensive, „cum ar fi cele care imită animale”, nu sunt, de exemplu, vizate.

Reamintim că, în 2024, sub presiunea autorităților de reglementare, TikTok fusese deja obligat să blocheze accesul la anumite filtre de înfrumusețare pentru utilizatorii cu vârsta sub 18 ani.

O altă modalitate de a concepe rețelele sociale

Conform Kids Act, serviciile utilizate de minori trebuie să fie concepute pentru a limita riscurile legate de funcționarea lor propriu-zisă, și nu doar pentru a controla conținuturile la care sunt expuși.

De altfel, această logică depășește cu mult fluxul de știri. Textul prevede, de asemenea, impunerea profilurilor private în mod implicit pentru minori, dezactivarea implicită a geolocalizării, a camerei și a microfonului, limitarea contactelor cu persoane necunoscute și acordarea unui control mai mare adolescenților asupra recomandărilor. Serviciile vor trebui, de asemenea, să integreze măsuri de protecție menite să protejeze somnul și timpul dedicat școlii.

În cele din urmă, textul abordează un alt tip de atașament: cel pe care îl pot crea companionii și chatbot-urile cu inteligență artificială. Aceste sisteme nu ar trebui să poată simula relații interpersonale într-un mod care să poată crea o dependență emoțională. Pentru persoanele sub 18 ani, chatbot-urile integrate în rețelele sociale ar trebui, de asemenea, să fie dezactivate în mod implicit.

Rămâne de văzut cum vor fi aplicate aceste noi obligații. Platformele foarte mari vor trebui să demonstreze că respectă noile reguli, în special prin prezentarea unui plan de conformitate care va trebui examinat de un auditor independent. În caz de încălcare, amenzile pot ajunge până la 6% din cifra de afaceri anuală globală a întreprinderii.

Însă, înainte de a putea sancționa platformele, textul trebuie mai întâi să intre în vigoare. Propunerea trebuie acum examinată și adoptată de Parlamentul European și de Consiliul Uniunii Europene. Comisia solicită o adoptare rapidă, având în vedere urgența consolidării protecției minorilor în mediul online.