Direcțiile viitorului se mai descoperă și din greșeală! Cum ar fi acum utilizarea AI pentru supravegherea societăților, pentru propagandǎ și arme autonome. Pentagonul a amenințat zilele trecute că va include pe lista neagră, ca risc pentru lanțul de aprovizionare, compania americanǎ de inteligență artificială : Anthropic ( Claude). Această clasificare este utilizată de obicei doar pentru firmele care fac afaceri cu China sau care își procură materiale din China.
De unde a pornit litigiul între Anthropic și Pentagon?
Anthropic este cea mai integrată companie de AI în sistemul de apărare american, fiind până de curând singură integrată în sisteme clasificate, în baza unui contract în valoare de 200 de milioane de dolari.
Acestǎ colaborare a început prin Palantir, în 2024. Palantir este compania lui Peter Thiel si unul dintre contractorii preferați ai armatei în domeniul datelor și software-ului, colectând spre exemplu date de la senzori spațiali pentru a oferi o mai bună țintire a loviturilor pentru soldați. Dar Palantir se află în mijlocul multor controverse pentru colaborarea sa cu administrația Trump, inclusiv în supravegherea cetățenilor americani.
Anul trecut, Pete Hegseth a încheiat un contract cu compania lui Elon Musk ( xAI ), pentru sisteme clasificate. În timp ce Open AI și Microsoft sunt partere doar pentru sisteme neclasificate.
Săptămâna trecută, The Wall Street Journal și Axios au relatat despre utilizarea sistemelor Anthropic (Claude ) în operațiunea de capturare a președintelui venezuelean Nicolás Maduro. Chiar dacă Anthropic a susținut cǎ are vizibilitate asupra modului de utilizare de către armatǎ, susținând cǎ nu au fost încălcate politice sale, în cadrul unei întâlniri cu Pentagonul, șefii Anthropic au cerut ca sistemul Claude să nu fie utilizat pentru:
– pentru a construi arme complet autonome care se declanșează fără intervenția unui om.
– să fie folosit pentru supravegherea în masă a cetățenilor americani.
Pentagonul a refuzat cererile și a cerut doar drept utilizare necondiționată. Semafor a relatat pe larg acest episod, iar oficiali din Pentagon au confirmat pentru NBC cǎ solicitarea Anthropic a venit mai întâi către Palantir. Managementul Palantir „a fost alarmat că întrebarea a fost formulată într-un mod care sugera că Anthropic ar putea dezaproba utilizarea software-ului său în timpul acelui raid din Venezuela”!
CEO-ul Anthropic, Dario Amodei este un cunoscut critic al sistemelor AI fără control, fără reguli stricte. În acest caz, el dorește să își mențină propriile mecanisme de protecție.
Zilele trecute, purtătorul de cuvânt al Pentagonului, Sean Parnell, a declarat pentru NBC News că „relația Departamentului de Război cu Anthropic este în curs de revizuire”.
Asta înseamnă cǎ Pentagonul nu vrea respectarea celor două reguli. Oricum, programele de dezvoltare pentru armament autonom cu AI erau deja cunoscute. Și nu o face doar SUA. Acestea sunt programe dezvoltate foarte mult de China în ultimii ani.
Prin urmare, întrebarea multor analiști e următoarea: atunci Pentagonul vrea să dezvolte împreună cu Palantir sisteme de supraveghere și propagandă în SUA? Așa cum mulți specialiști au atras deja atenția? Iar condițiile cerute Anthropic ar încurca aceste planuri, fiind singurul sistem integrat în Palantir?
La începutul lunii ianuarie, secretarul apărării, Pete Hegseth, a publicat un nou document de strategie privind inteligența artificială, care solicita ca orice contract cu companiile AI să elimine restricțiile sau limitările specifice impuse de companii asupra modului în care armata poate utiliza sistemele lor AI.
Documentul cerea oficialilor din domeniul apărării să includă această formulare în orice contract AI al departamentului în termen de 180 de zile, ceea ce ar afecta și relațiile Anthropic cu armata.
Tot în luna ianuarie, Amodei a scris într-un eseu publicat pe site-ul său personal că „utilizarea AI pentru supraveghere internă în masă și propagandă în masă” i se pare „în totalitate ilegitimă”. El a adăugat că armele automatizate prin AI ar putea crește semnificativ riscurile „ca guvernele democratice să le întoarcă împotriva propriilor cetățeni pentru a prelua puterea”.
8 din cele mai mari 10 companii din America folosesc Claude: antreprenori în domeniul apărării, furnizori guvernamentali, companii cu orice fel de expunere la nivel de stat federal. TOȚI ar trebui să rupă legăturile cu Anthropic peste noapte sau să-și piardă contractele cu guvernul.
Săptămâna trecută, șeful departamentului de cercetare în domeniul garanțiilor de la Anthropic a demisionat. Mesajul său de rămas bun: „lumea este în pericol”.
Se pare cǎ Anthropic încearcă să mențină regulile! Acum………va reuși?
media advertising
![](https://mapamond.media/wiseme.png"){kind=small}
