Inteligența artificială ne ascultă în permanență. Ce se întâmplă cu conversațiile noastre
Dispozitivele AI care ascultă permanent ridică probleme de confidențialitate
Tot mai multe dispozitive folosesc inteligența artificială pentru a asculta conversațiile utilizatorilor, a le organiza și a transforma informațiile în recomandări, rezumate sau notificări. Problema este că microfonul nu înregistrează doar vocea persoanei care deține dispozitivul, ceea ce ridică semne de întrebare privind persoanele din jur care pot fi captate fără știrea lor.
Un exemplu este Friend, un dispozitiv american purtat sub forma unui pandantiv, care poate asculta permanent ceea ce spune utilizatorul și poate utiliza informațiile pentru a oferi răspunsuri și recomandări. Alte produse, precum Pocket și Plaud, sunt orientate către întâlniri și activități profesionale, înregistrând conversațiile, pe care inteligența artificială le poate transcrie și rezuma ulterior.
Problema juridică a înregistrării altor persoane
O situație similară a apărut în cazul ochelarilor inteligenți Ray-Ban Meta, care dispun de camere, microfoane și senzori și pot fi utilizați pentru fotografiere sau filmare fără ca persoanele din jur să își dea seama imediat.
Din punct de vedere juridic, potrivit GDPR, responsabilitatea pentru prelucrarea datelor înregistrate revine furnizorului serviciului care colectează și procesează informațiile. Totuși, producătorul dispozitivului și furnizorul serviciului pot fi companii diferite.
Guido Scorza, jurist și fost membru al autorității italiene pentru protecția datelor, consideră că legislația ar putea fi modificată astfel încât și producătorii să poată fi considerați responsabili atunci când proiectează produse care facilitează prea ușor încălcarea vieții private. În cazul acestor tehnologii există o diferență importantă între persoana care a cumpărat dispozitivul și oamenii care ajung accidental în raza microfonului.
Apple introduce funcții de ascultare continuă
Tendința nu se limitează la startup-uri. Apple a introdus funcțiile Live Rewind și Siri Recap pentru versiunile mai avansate ale Apple Watch, ambele bazându-se pe procesarea unor informații audio provenite din conversațiile utilizatorului.
Live Rewind poate păstra temporar ultimele 15 secunde de conversație, iar la cererea utilizatorului acestea sunt transformate în text, după care înregistrarea audio este ștearsă. Apple precizează că procesarea are loc direct pe dispozitiv, într-o zonă izolată numită Secure Enclave. Activarea Live Rewind produce și o alertă sonoră pentru persoanele din apropiere.
Siri Recap funcționează diferit și poate înregistra conversații pentru a genera ulterior rezumate, recomandări sau mementouri.
Criticile privind responsabilitatea utilizatorilor
Criticii acestor tehnologii susțin că responsabilitatea nu ar trebui transferată utilizatorilor. Jenna Sherman, directoarea organizației UltraViolet, atrage atenția că este diferit ca un dispozitiv să fie activat implicit și ca utilizatorul să aleagă în mod conștient o funcție de înregistrare.
În primul caz, persoanele din jur pot nici măcar să nu știe că o conversație este captată. Pe măsură ce inteligența artificială ajunge în tot mai multe dispozitive purtate zilnic, problema devine mai largă decât protejarea datelor proprietarului, fiind implicate și vocile, imaginile și conversațiile oamenilor care nu au ales niciodată să folosească aceste tehnologii.
