Unul dintre directorii cu vechime din Google a demisionat, acuzând compania că s-a îndepărtat de principiile etice care i-au definit identitatea timp de două decenii. Motivul principal al plecării sale este apropierea tot mai mare dintre gigantul tehnologic și armata americană, pe fondul extinderii utilizării inteligenței artificiale în domeniul militar.
René Mayrhofer, director responsabil de securitatea platformei Android și profesor la Universitatea Johannes Kepler din Linz, și-a anunțat plecarea printr-un mesaj intern în care afirmă că „liderii Google și-au pierdut busola morală”. Potrivit unei relatări publicate de Business Insider, Mayrhofer consideră că organizația în care a lucrat ani de zile nu mai seamănă cu compania care promova odinioară principiul „Don’t be evil” și care încerca să evite implicarea în proiecte militare controversate.
Nemulțumirea sa este legată în special de acordul încheiat între Google și Departamentul Apărării al Statelor Unite, care permite utilizarea modelelor de inteligență artificială Gemini în medii clasificate. Google susține că tehnologia va fi folosită în condiții compatibile cu propriile reguli privind dezvoltarea responsabilă a AI și că rămân în vigoare interdicțiile referitoare la armele autonome care funcționează fără control uman.
Pentru Mayrhofer, aceste garanții nu sunt suficiente. El afirmă că nu poate susține dezvoltarea unor tehnologii care ar putea fi utilizate în operațiuni militare ofensive sau în sisteme de supraveghere extinsă. Pacifist declarat, acesta spune că nu dorește să contribuie, nici măcar indirect, la dezvoltarea unor instrumente care ar putea facilita conflicte armate sau restrângerea libertăților civile.
De la Project Maven la Gemini
Disputa nu este nouă. În 2018, Google a fost zguduită de revolta propriilor angajați împotriva participării la Project Maven, un program al Pentagonului care utiliza algoritmi de inteligență artificială pentru analiza imaginilor captate de drone militare. Atunci, mii de angajați au protestat, iar conducerea companiei a ales să nu reînnoiască contractul.
În urma acelui episod, Google a adoptat un set de principii etice privind utilizarea inteligenței artificiale, promițând că nu va dezvolta sisteme destinate producerii de arme sau tehnologiilor care ar putea provoca prejudicii semnificative oamenilor.
Însă contextul geopolitic s-a schimbat radical în ultimii ani. Competiția tehnologică dintre Statele Unite și China, războiul din Ucraina și dezvoltarea accelerată a inteligenței artificiale au determinat multe companii din Silicon Valley să își reevalueze poziția față de colaborarea cu instituțiile de apărare.
În acest nou climat, Google a revenit treptat la parteneriate cu armata americană, argumentând că tehnologia occidentală trebuie să contribuie la securitatea statelor democratice.
O dezbatere care traversează, în subtext, întreaga industrie AI
Demisia lui Mayrhofer evidențiază tensiunile care există în prezent în marile companii de tehnologie. Pentru conducerea acestora, colaborarea cu guvernele și instituțiile de apărare este prezentată drept o necesitate strategică. Pentru o parte dintre angajați, însă, dezvoltarea unor modele de inteligență artificială utilizabile în contexte militare ridică probleme morale fundamentale.
În ultimele luni, sute de angajați Google au semnat petiții prin care au cerut companiei să limiteze implicarea în proiecte clasificate și să ofere mai multă transparență privind utilizarea tehnologiilor sale de către instituțiile militare.
Cazul depășește însă granițele Google. Pe măsură ce inteligența artificială devine o componentă centrală a securității naționale, marile companii tehnologice sunt nevoite să răspundă unei întrebări care până de curând părea teoretică: unde se termină responsabilitatea față de societate și unde începe responsabilitatea față de stat?
Pentru René Mayrhofer, răspunsul este clar. Pentru industria tehnologică, dezbaterea abia începe.
Articol realizat pe baza informațiilor publicate de Business Insider.
