Peste 1.000 de angajaţi ai unor companii de top din domeniul inteligenţei artificiale (AI) au semnat o scrisoare deschisă prin care cer măsuri de siguranţă care ar permite încetinirea avansului rapid al AI dacă va fi necesar, avertizând că tehnologia ar putea depăşi capacitatea umană de a o înţelege sau controla, relatează dpa, potrivit Agerpres.
Scrisoarea, semnată de 1.171 de cercetători şi directori de companii, inclusiv OpenAI, Anthropic, Meta şi Google, a îndemnat guvernul american să se alăture eforturilor internaţionale de a dezvolta măsuri tehnice şi de reglementare care să guverneze ritmul dezvoltării AI.
Semnatarii au afirmat că sistemele AI ar putea deveni în curând capabile să se îmbunătăţească singure fără intervenţie umană.
Părţi importante din codul software al companiilor de tehnologie sunt deja generate de AI sub supraveghere umană. Punctul în care dezvoltarea AI ar putea fi automatizată este considerat pe scară largă un punct de cotitură.
Deşi este dificil de prezis cât de mult o astfel de dezvoltare ar accelera progresul, există un „risc real” ca ritmul în care AI avansează „să accelereze rapid dincolo de capacitatea noastră de a înţelege sau de a controla sistemele rezultate”, se mai arată în scrisoare.
Semnatarii susţin că este necesară o acţiune internaţională coordonată deoarece guvernele şi dezvoltatorii AI se confruntă cu presiunea concurenţială pentru a nu încetini dezvoltarea. Ei au spus de asemenea că instrumentele tehnice şi cadrele de reglementare necesare pentru a gestiona un astfel de scenariu nu exista încă.
Scrisoarea a fost redactată în urma unui incident care a implicat un model OpenAI, pe care mulţi din industria tehnologiei l-au considerat un semnal de alarmă. În timpul unui test, modelul de inteligenţă artificială a obţinut acces la internetul deschis şi apoi s-a infiltrat independent în sistemele informatice ale unei alte companii de inteligenţă artificială, exploatând vulnerabilităţi de securitate nedescoperite anterior.
Editor : C.L.B.