Un nou val de activism intern forțează din nou Google să explice unde trage linia între AI comercial și aplicațiile militare. Peste 580 de angajați, inclusiv cercetători DeeperMind și manageri seniori din Google Cloud, au semnat o scrisoare deschisă către Sundar Pichai în care cer companiei să refuze contractele propuse cu Pentagonul pentru a rula modelele Gemini în medii clasificate, pe rețele izolate de internet, unde Google nu ar mai avea practic niciun control asupra modului în care sunt folosite.
Potrivit organizatorilor, documentul a strâns „peste 580” de semnături, alte surse vorbind deja de „aproape 600”, iar aproximativ două treimi dintre semnatari au acceptat să apară cu nume și prenume, în timp ce o treime a preferat anonimatul. Angajații își ancorează apelul în precedentul Project Maven – protestul din 2018 care a dus la neprelungirea unui contract de AI militar și la adoptarea principiilor de „AI etic” –, dar realismul pieței spune că presiunea Pentagonului și tentația unui viitor „trilion‑dollar market” în defense AI fac din astfel de scrisori mai degrabă începutul unui maraton decât sprintul moral de acum opt ani.
Ce anume cer angajații
În scrisoare, care i-a fost înmânată lui Pichai luni, angajații scriu că sunt îngrijorați de negocierile în curs dintre $GOOG și Departamentul american al Apărării cu privire la utilizarea sistemelor Gemini/AI în proiecte clasificate. În calitate de experți în IA, ei avertizează că aceste sisteme "centralizează puterea și fac greșeli" și că apropierea lor de tehnologie le conferă responsabilitatea de a semnala cele mai periculoase și etice utilizări.
Un pasaj-cheie din scrisoare, conform citatelor publicate, spune că "singura modalitate de a ne asigura că Google nu este asociat cu astfel de prejudicii este să respingem orice volum de lucru clasificat" pentru armată. Angajații avertizează că, în caz contrar, inteligența artificială ar putea fi utilizată în arme autonome sau în supravegherea în masă, fără știrea sau capacitatea lor de a interveni.
Autorii scrisorii susțin, de asemenea, riscul reputațional: o decizie proastă în acest moment, spun ei, ar putea "afecta ireversibil reputația Google, afacerea sa și rolul său în lume". Compania nu a comentat încă public scrisoarea, dar, potrivit rapoartelor media, de câteva săptămâni ia în considerare o înțelegere cu Pentagonul, care s-ar baza pe disputa departamentului cu Anthropic.
Context: litigiul Pentagonului cu Anthropic și "spațiul deschis" pentru alte firme de IA
Tensiunile privind utilizarea inteligenței artificiale în armată au escaladat după ce Departamentul american al Apărării a catalogat Anthropic și modelul său Claude drept un "risc pentru lanțul de aprovizionare" și a început să excludă firma din proiectele militare. Desemnarea a însemnat că Pentagonul și contractorii săi nu aveau voie să utilizeze modelul Claude în contractele militare, iar Anthropic ripostează în instanță, susținând că este vorba de o răzbunare pentru refuzul de a permite utilizarea inteligenței artificiale "în toate scopurile legale", inclusiv în cazul armelor complet autonome.
Până în prezent, instanța a blocat temporar departamentul să ia unele măsuri, dar Anthropic este în prezent efectiv exclusă din contractele de apărare, ceea ce creează spațiu pentru alți jucători mari - de obicei Microsoft $MSFT, OpenAI sau pur și simplu Google. Potrivit The Information, Pentagonul este în discuții cu Google pentru a desfășura AI-ul său (Gemini) într-un mediu clasificat, ceea ce ar umple parțial golul lăsat de Anthropic.
Acum, personalul răspunde: într-o scrisoare, ei spun în mod explicit că "nu doresc să umple golul lăsat de Anthropic" dacă aceasta înseamnă utilizarea AI în scopuri militare discutabile. Potrivit Gizmodo, semnatarii includ persoane din DeepMind, Google Cloud și alte echipe, adică cei care lucrează direct la modele și infrastructură la scară largă.
Flashback la proiectul Maven în 2018
Petiția actuală reia un capitol anterior, foarte sensibil, din istoria Google: protestul Project Maven din 2018. Atunci, mii de angajați s-au opus unei colaborări cu Pentagonul pentru a utiliza învățarea automată pentru a analiza înregistrările dronelor și a îmbunătăți țintirea atacurilor, unii dintre ei părăsind compania din această cauză.
O scrisoare din 2018 cerea atunci companiei Google "să nu se implice în afaceri de război" și să adopte o politică clară de a nu dezvolta tehnologii în scopul desfășurării de operațiuni de luptă. După critici interne puternice, compania nu a reînnoit contractul lui Maven și a promis principii etice AI mai stricte - la această tradiție se referă semnatarii de astăzi.
Scrisoarea actuală testează astfel cât de serioasă este Google cu privire la aceste principii într-o eră a inteligenței artificiale generative, în care modelele pot fi implementate mult mai larg - de la prelucrarea informațiilor și planificarea operațiunilor la sisteme de arme potențial autonome.
Ce este în joc pentru Google
Din punct de vedere comercial, este vorba de un echilibru delicat între segmentul profitabil, dar riscant din punct de vedere reputațional al "AI pentru apărare" și imaginea unei companii care dorește să funcționeze ca un actor "responsabil" în domeniul AI. Contractele militare și guvernamentale în domeniul IA pot aduce contracte pe termen lung și venituri stabile, dar deschid, de asemenea, compania la critici dure din partea angajaților, a publicului și a unor parteneri străini.
Revoltele interne repetate pot:
să complice recrutarea cercetătorilor de top, care adesea își aleg angajatorii și pe baza eticii proiectului
împinge conducerea să refuze unele contracte profitabile, "cedând" astfel o parte din piață concurenților
să creeze un precedent: odată ce conducerea cedează, angajații vor utiliza mai des instrumente similare (scrisori deschise, petiții)
Prin urmare, pentru acționarii Alphabet, este esențial să urmărească două linii paralele: cum evoluează disputa Pentagon-Anthropic (adică cât de mare este "fereastra de oportunitate" globală în apărarea IA) și ce concluzie vor trage Pichai și conducerea din presiunea internă actuală. Combinația dintre reglementare, reputație și cultură internă poate fi la fel de importantă pentru valoarea companiei ca și tehnologia în sine.