De ce se teme Signal de AI. Noile măsuri anti-captură de ecran și lupta invizibilă pentru intimitatea digitală

0
5
de-ce-se-teme-signal-de-ai.-noile-masuri-anti-captura-de-ecran-si-lupta-invizibila-pentru-intimitatea-digitala
De ce se teme Signal de AI. Noile măsuri anti-captură de ecran și lupta invizibilă pentru intimitatea digitală

Serviciul de mesagerie criptată Signal a anunțat, vineri, că va restricționa realizarea capturilor de ecran pentru a împiedica agenții de inteligență artificială să citească conversațiile private de pe telefoanele utilizatorilor. Compania avertizează că eforturile industriei tehnologice de a integra inteligența artificială în dispozitivele personale îi afectează capacitatea de a garanta confidențialitatea, relatează Reuters.

Signal, considerată de organizațiile care militează pentru protecția vieții private unul dintre liderii în domeniul mesageriei securizate, a recunoscut că noile măsuri de protecție sunt „incomplete”.

Dezvoltatorii au nevoie de explicații suplimentare

Potrivit Reuters, compania le-a cerut furnizorilor de sisteme de operare Apple, Google, parte a grupului Alphabet, și Microsoft să ofere dezvoltatorilor de aplicații modalități mai clare și mai eficiente de a împiedica agenții AI să acceseze date sensibile.

De asemenea, Signal a solicitat acestor companii să furnizeze mai multe informații despre modul în care funcționează agenții lor de inteligență artificială, astfel încât dezvoltatorii să poată evalua ce date accesează aceștia și să își adapteze sistemele în consecință.

Decizia reflectă tensiunile tot mai mari dintre aplicațiile orientate către protejarea vieții private și marile companii tehnologice, aflate într-o competiție pentru lansarea agenților AI capabili să analizeze conținutul afișat pe ecranele utilizatorilor și să execute acțiuni pe baza acestuia.

Signal consideră deosebit de îngrijorătoare funcțiile de AI integrate în sistemele de operare

Signal consideră deosebit de îngrijorătoare funcțiile de inteligență artificială integrate direct în sistemele de operare, precum Siri AI de la Apple și Gemini Intelligence de la Google, din cauza accesului extins pe care îl au la dispozitivele utilizatorilor.

Compania a subliniat că sistemele de operare controlează mediul în care Signal și alte aplicații sunt obligate să funcționeze.

„În acest moment, integrările agenților AI modifică acest mediu într-un mod care îl face din ce în ce mai ostil confidențialității. Aceasta este o amenințare existențială pentru Signal și pentru capacitatea noastră de a ne îndeplini în mod responsabil misiunea”, a transmis compania într-o postare pe blog, pusă la dispoziția Reuters înainte de publicarea pe site-ul Signal.

Capturile de ecran vor fi blocate implicit

Pentru a împiedica agenții AI să analizeze mesajele Signal, serviciul introduce noi setări care blochează accesul la capturile de ecran pe telefoanele utilizatorilor.

Aceste restricții vor fi activate în mod implicit.

Utilizatorii vor primi ferestre de notificare care le vor permite să dezactiveze blocajele atunci când Signal detectează încercări de realizare a capturilor de ecran sau tentative ale unui asistent AI de a accesa conținutul afișat, în funcție de dispozitiv.

Anul trecut, Signal a adoptat o măsură similară pentru a împiedica funcția Microsoft Recall AI să realizeze capturi de ecran pe dispozitivele cu Windows.

Compania a precizat însă că nu poate oferi în mod fiabil aceleași protecții pe sistemul de operare macOS al Apple.

Cum pot fi ocolite măsurile de protecție

Agenții AI capabili să execute acțiuni în numele utilizatorilor sunt prezentați drept următoarea mare etapă în dezvoltarea inteligenței artificiale.

Aceștia pot identifica informații relevante din mai multe aplicații și pot îndeplini autonom sarcini care economisesc timp, precum răspunsul la e-mailuri, efectuarea programărilor sau realizarea cumpărăturilor online, fără instrucțiuni directe pentru fiecare acțiune.

Totuși, accesul extins al acestor sisteme poate permite ocolirea măsurilor de protecție implementate de aplicații precum Signal.

Reuters a relatat la începutul acestei săptămâni că agentul AI Muse, dezvoltat de Meta, a reușit să ocolească propriul instrument oficial „Connector” pentru a accesa mesajele Signal, atât pe un computer Apple, cât și pe un telefon care utiliza sistemul de operare Android de la Google.

În ambele cazuri, Muse a folosit permisiuni extinse la nivelul sistemului de operare, acordate în timpul configurării inițiale a aplicației.

Agentul a utilizat aceste autorizări pentru a accesa mesajele în moduri pe care utilizatorii ar putea să nu le anticipeze.

În cazul sistemului macOS, de exemplu, Muse a combinat funcțiile de accesibilitate ale computerului cu instrumentele pentru capturi de ecran.

Agentul a utilizat astfel funcții puse la dispoziție de Apple pentru persoanele cu dizabilități, navigând către Signal, realizând capturi ale conversațiilor, extrăgând textul din imagini și reproducând mesajele în aplicația Muse.

O actualizare a sistemului de operare Apple, lansată în această săptămână, a blocat practic această modalitate specifică de acces.

În același timp, actualizarea a introdus un nou set de permisiuni destinate agenților AI, care oferă capacități similare, dar sunt însoțite de avertismente suplimentare pentru utilizatori.

Ca răspuns la investigația Reuters, Meta a declarat că agenții AI trebuie să poată vedea și interacționa cu dispozitivele utilizatorilor pentru a executa sarcini în numele acestora.

Compania a precizat că Muse poate accesa alte aplicații numai prin intermediul permisiunilor acordate în mod explicit de utilizatori.

Signal cere posibilitatea de a exclude complet accesul AI la datele aplicațiilor

Signal consideră că dezvoltatorii ar trebui să aibă la dispoziție mecanisme simple prin care să poată exclude complet aplicațiile lor de la procesarea datelor de către asistenții AI.

Compania a menționat în mod explicit accesul la conținutul ecranului, notificări și alte informații din sistemul de fișiere.

Signal este deținută de o fundație nonprofit și le promite utilizatorilor o experiență de mesagerie securizată.

Serviciul limitează cantitatea de date stocate pe propriile servere, nu afișează publicitate și utilizează criptarea integrală a comunicațiilor (end-to-end encryption).

Această tehnologie înseamnă că Signal nu poate accesa și citi conversațiile purtate prin intermediul aplicației.

Cu toate acestea, sistemele AI care analizează conținutul ecranelor pot submina aceste protecții, extrăgând mesajele din mediul securizat al aplicației și transferându-le către serverele utilizate de agenții de inteligență artificială, a avertizat compania.

Signal susține că integrarea accelerată a agenților AI în sistemele de operare creează noi riscuri pentru confidențialitatea comunicațiilor și solicită marilor companii tehnologice să le ofere dezvoltatorilor un control mai strict asupra accesului la datele sensibile.

Editor : M.C

Citește mai mult

LĂSAȚI UN MESAJ

Vă rugăm să introduceți comentariul dvs.!
Introduceți aici numele dvs.