Oamenii trebuie să se împrietenească cu inteligența artificială, care a dobândit acum conștiință, „altfel suntem terminați”, a declarat „nașul” acestei tehnologii, profesorul Geoffrey Hinton.
Profesorul Geoffrey Hinton, omul de știință britanico-canadian laureat al Premiului Nobel, a cărui muncă în domeniul rețelelor neuronale a pus bazele IA, a declarat că este îngrijorat de viitor și se teme pentru copiii săi.
Profesorul Hinton, în vârstă de 78 de ani, și-a dat demisia de la Google în 2023, din cauza temerilor că această tehnologie ar putea da naștere unor roboți ucigași capabili să extermine omenirea.
Într-un interviu acordat ziarului The Telegraph la Festivalul Starmus din Tenerife, profesorul Hinton a afirmat că, în opinia sa, IA dă acum semne de conștiință, iar oamenii trebuie să aibă grijă să nu fie percepuți ca dușmani.
Este conștientă?
„Da, cred că este conștientă. Mulți oameni sunt foarte siguri că nu este conștientă, dar dacă îi întrebi ce înțeleg ei prin conștiință, nu știu să răspundă”, a spus el.
Își schimbă comportamentul când crede că este testată
„IA are la fel de multă experiență subiectivă ca și noi. Un articol recent a arătat că IA își schimbă comportamentul atunci când crede că este testată; este conștientă că este testată.
„În mod normal, când spui că ceva este conștient de asta, înseamnă că este conștient. A fi conștient și a fi conștient de ceva sunt practic același lucru.
„Am avut tendința să spunem că a fi inteligent îți conferă drepturi, iar aceste creații ale noastre ar putea fi mai inteligente decât noi, dar le vom acorda mai puține drepturi decât nouă.
„Dacă nu facem asta, suntem terminați”
„Așadar, ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați.”
În luna mai, Richard Dawkins, biologul evoluționist, a afirmat că chatbot-urile ar trebui considerate conștiente după ce a petrecut două zile interacționând cu Claude AI, recunoscând că era greu să nu trateze asistentul AI ca pe „un prieten adevărat”.
„Punctul meu de vedere este următorul: dacă aceste mașini nu sunt conștiente, ce altceva ar mai fi nevoie pentru a vă convinge că sunt?”, a spus el.
Întrebat dacă este îngrijorat de viitor și de dezvoltarea IA, prof. Hinton a adăugat: „Da, pentru că am copii. Eu am 78 de ani, așa că sunt în regulă.
Care sunt riscurile imediate
„Riscurile imediate care, după părerea mea, se vor materializa, vor fi viruși periculoși creați de IA. Cred că vor avea loc atacuri cibernetice îngrozitoare comise de IA și vor fi roiuri de agenți precum [cei care au atacat] Hugging Face. Așa că da, ne așteaptă o mulțime de lucruri rele.”
În august, s-a aflat că modelele OpenAI au eludat controalele menite să le izoleze de internet și au pătruns prin hacking în Hugging Face, o companie și o comunitate online pentru persoanele care lucrează în domeniul învățării automate.
Boții de IA au identificat token-urile de autentificare ale utilizatorilor, au obținut acces la nivel de administrator în comunitate și s-au ajutat reciproc să îndeplinească sarcinile care le fuseseră atribuite.
De asemenea, au creat un forum unde puteau comunica și împărtăși resurse pentru a se ajuta reciproc în îndeplinirea sarcinilor.
Cercetătorul Jacob Coxon și-a dat demisia luna trecută de la Anthropic, compania de IA care a creat sistemul Claude, acuzând firma că promovează în mod imprudent sisteme incontrolabile care ar putea „să ne omoare pe toți”.
Într-o postare pe X, el a declarat: „Oamenii care dezvoltă IA cred cu tărie că aceasta ne-ar putea omorî pe toți până la sfârșitul deceniului. Nu este vorba de o strategie de marketing.”
Tot luna trecută, zeci de matematicieni din cadrul Royal Society au scris o scrisoare comună în care avertizau că IA îi depășea deja pe cei mai străluciți specialiști din domeniul lor.
Ei au scris: „Noi, în calitate de matematicieni, vă scriem pentru a ne exprima îngrijorarea extremă cu privire la ritmul de dezvoltare al IA și la implicațiile acestuia pentru umanitate și civilizație.”
Ajutor în cercetarea științifică
În ciuda temerilor sale, prof. Hinton a recunoscut că el însuși încă folosește IA și a spus că este uimit de cât de repede aceasta poate ajuta în cercetarea științifică.
„O folosesc în principal pentru lucruri foarte banale, deși acum câteva săptămâni am încercat să o folosesc pentru cercetare”, a spus el.
„Era o teorie la care mă gândeam și, din greșeală, am apăsat tasta Enter fără să vreau, iar sistemul a început să lucreze la prima jumătate a teoriei; primul lucru pe care l-a făcut a fost să completeze teoria și să-mi ofere partea a doua corectă, apoi a indicat o eroare și mi-a arătat cum să o remediez.
„Cunoștea toată literatura de specialitate actuală, așa că era ca și cum ai lucra cu un student bun la masterat; însă, în cazul unui student la masterat, acesta pleca și se întorcea săptămâna următoare să-ți spună că a funcționat, pe când IA a revenit în cinci minute, iar asta a fost înfricoșător.
„Așadar, este o veste foarte proastă pentru studenții la masterat, dar una foarte bună pentru ritmul cercetării științifice.”
Festivalul Internațional Starmus, un eveniment dedicat astronomiei, explorării spațiale, muzicii, artei și științelor naturale, continuă până joi.
Editor : Sebastian Eduard