Dezvoltarea unor sisteme AI capabile să-și stabilească singure obiective, să câștige bani și să dețină active ar putea duce la apariția unei noi forme de inteligență, a unei „specii de siliciu” care să concureze cu oamenii pentru resurse, avertizează Mustafa Suleyman, șeful diviziei AI de la Microsoft. El cere reguli și mecanisme mai stricte pentru ca tehnologia să rămână sigură, controlabilă și „subordonată omenirii”.
Mustafa Suleyman a afirmat că firma rivală Anthropic tratează inteligența artificială ca și cum ar fi umană, o abordare pe care a calificat-o drept „greșită” și care, în opinia sa, ar putea duce la crearea unei tehnologii pe care omenirea să nu o mai poată controla.
Într-un interviu acordat la BBC, directorul executiv a declarat că este „normal” ca oamenii să fie îngrijorați de inteligența artificială, dar că există „lucruri foarte concrete pe care le putem face” pentru a o controla.
Declarațiile sunt cele mai recente dintr-o serie de avertismente ferme venite din industria AI cu privire la posibilele pericole ale acestei tehnologii. BBC a contactat Anthropic pentru un punct de vedere.
Vorbind joi la emisiunea Today, Suleyman a avertizat asupra riscurilor ca firmele să continue să creeze sisteme AI capabile să își stabilească propriile obiective, să câștige bani și să dețină active.
Acest lucru ar însemna „în esență, să punem bazele unei noi specii de siliciu”, a spus el, care „fără îndoială ar putea concura cu noi pentru resurse, indiferent cât de mult i-ar păsa de omenire și cât de mult ne-ar iubi”.
De ce critică șeful Microsoft AI modul în care este antrenat Claude
Declarațiile făcute de Suleyman pentru BBC vin după un eseu publicat de acesta la începutul săptămânii, în care a pus sub semnul întrebării abordarea Anthropic privind antrenarea modelului său AI Claude, deși l-a lăudat pe directorul companiei, Dario Amodei, și echipa acestuia, pe care i-a descris drept „oameni onești din punct de vedere intelectual”.
În eseu, Suleyman a criticat Anthropic pentru că își învață inteligența artificială să manifeste caracteristici asemănătoare celor umane, o practică numită antropomorfizare, despre care susține că poate crea impresia că Claude are propriile dorințe, valori și un sentiment al sinelui.
El a avertizat, de asemenea, că firmele de tehnologie riscă să creeze ceva „imposibil” de controlat dacă tratează tehnologia ca pe o ființă umană.
„Inteligențele artificiale nu sunt conștiente”, a scris el. „Nu simt, nu au experiențe și nu suferă. Nu au preferințe înnăscute sau motivații fundamentale. Sunt motoare de completare a secvențelor, lipsite de conținut interior, concepute să urmeze instrucțiuni și să îndeplinească obiective stabilite de oameni.”
Șeful Microsoft AI a afirmat că este nevoie de mai multă transparență în privința modului în care sistemele de inteligență artificială sunt antrenate și evaluate.
Aceasta ar trebui să includă, în opinia sa, o examinare independentă a comportamentului sistemelor AI și instrumente mai puternice pentru monitorizarea și controlul tehnologiei. „Nu trebuie să ajungem, fără să ne dăm seama, la o decizie pe care mai târziu să o regretăm amarnic”, a scris el.
Dame Wendy Hall, profesoară de informatică la Universitatea din Southampton, a descris declarațiile drept „genul de conversație pe care trebuie să o avem la nivel internațional”, în contrast cu „isteria” unor companii din domeniul AI, despre care a spus că nu face decât „să-i sperie pe toți”.
Superinteligența „umanistă”
Întrebarea privind gradul de autonomie care ar trebui acordat sistemelor AI provoacă tot mai multe divergențe în industrie. Referitor la un viitor summit dedicat inteligenței artificiale, Suleyman a cerut o „aliniere” care să permită crearea unei tehnologii ce trebuie să rămână „subordonată” omenirii.
Alinierea este un domeniu care urmărește integrarea în sistemele AI a principiilor și valorilor etice umane. Cu alte cuvinte, obiectivul este ca inteligența artificială să rămână în concordanță cu ceea ce oamenii consideră valoros.
„Cred că vestea bună este că fiecare om va avea un interes foarte puternic să se asigure că sistemele pe care le creăm cu toții și care sunt folosite în întreaga lume, în fiecare țară, sunt sigure, controlabile și subordonate omenirii”, a declarat el. „Toată lumea trebuie să fie aliniată.”
Microsoft și-a înființat propria echipă dedicată superinteligenței în octombrie 2025, iar compania, asemenea rivalului Anthropic, urmărește dezvoltarea unor sisteme avansate de inteligență artificială.
Declarațiile lui Suleyman reflectă proiectul inițial al Codului Microsoft pentru o Inteligență Artificială Umanistă, un „manual de instruire” publicat luni, care prezintă modul în care compania își dezvoltă sistemele AI și introduce conceptul de „superinteligență umanistă”.
Aceasta este definită în cod drept „o inteligență artificială foarte avansată, care lucrează întotdeauna pentru oameni, rămâne în anumite limite și se află sub control uman”.
Viziunea Microsoft asupra unei inteligențe artificiale „umaniste” evidențiază provocarea centrală cu care se confruntă această tehnologie: cum poate deveni mai puternică fără să piardă din vedere valorile pe care ar trebui să le servească.
Editor : M.I.