Statele Unite trebuie să acționeze „decisiv" pentru a preveni amenințarea "la nivel de extincție" pentru specia umană pe care o reprezintă inteligența artificială
Postat la: 12.03.2024 | Scris de: ZIUA NEWS

Guvernul SUA trebuie să acționeze „rapid și decisiv" pentru a evita riscurile substanțiale la adresa securității naționale care decurg din inteligența artificială (AI) și care ar putea, în cel mai rău caz, să provoace o „amenințare la nivel de extincție pentru specia umană", se arată într-un raport comandat de guvernul SUA.
„Dezvoltarea actuală a AI (...) prezintă riscuri urgente și în creștere pentru securitatea națională", se arată în raportul pe care TIME l-a obținut înainte de publicare. „Ascensiunea AI avansată și AGI [inteligența artificială generativă] au potențialul de a destabiliza securitatea globală în moduri care amintesc de introducerea armelor nucleare". AGI este o tehnologie ipotetică care ar putea îndeplini majoritatea sarcinilor la nivelul sau peste nivelul unui om. Astfel de sisteme nu există în prezent, dar cele mai importante laboratoare de inteligență artificială lucrează la ele și mulți se așteaptă ca AGI să apară în următorii cinci ani sau mai puțin.
Cei trei autori ai raportului au lucrat la acesta timp de mai bine de un an, discutând cu peste 200 de angajați guvernamentali, experți și angajați de la companii de AI de ultimă generație - precum OpenAI, Google DeepMind, Anthropic și Meta - în cadrul cercetării lor. Relatările din unele dintre aceste conversații conturează o imagine îngrijorătoare, sugerând că mulți lucrători din domeniul siguranței AI din cadrul laboratoarelor de ultimă oră sunt îngrijorați de stimulentele perverse care conduc luarea deciziilor de către directorii care controlează companiile lor.
Documentul finalizat, intitulat „Un plan de acțiune pentru creșterea siguranței și securității inteligenței artificiale avansate", recomandă un set de acțiuni politice radicale și fără precedent care, dacă vor fi adoptate, vor perturba radical industria inteligenței artificiale. Congresul ar trebui să facă ilegală, recomandă raportul, antrenarea modelelor de inteligență artificială folosind mai mult de un anumit nivel de putere de calcul. Pragul, recomandă raportul, ar trebui să fie stabilit de o nouă agenție federală pentru inteligență artificială, deși raportul sugerează, de exemplu, că agenția ar putea să îl stabilească imediat deasupra nivelurilor de putere de calcul utilizate pentru a antrena modelele actuale de ultimă generație, cum ar fi GPT-4 de la OpenAI și Gemini de la Google.
Noua agenție de inteligență artificială ar trebui să ceară companiilor de inteligență artificială aflate la „frontiera" industriei să obțină permisiunea guvernului pentru a antrena și implementa noi modele dincolo de un anumit prag minim, adaugă raportul. Autoritățile ar trebui, de asemenea, să ia în considerare „urgent" interzicerea publicării algoritmilor de funcționare internă a modelelor puternice de inteligență artificială, de exemplu sub licențe open-source, iar încălcările ar putea fi pedepsite cu închisoarea, se arată în raport. De asemenea, guvernul ar trebui să înăsprească și mai mult controalele privind fabricarea și exportul de cipuri de inteligență artificială și să canalizeze finanțarea federală către cercetări de „aliniere" care urmăresc să facă inteligența artificială avansată mai sigură, recomandă raportul.
Raportul a fost comandat de Departamentul de Stat în noiembrie 2022, ca parte a unui contract federal în valoare de 250.000 de dolari, potrivit documentelor publice. Acesta a fost redactat de Gladstone AI, o companie formată din patru persoane care organizează ședințe de informare tehnică privind inteligența artificială pentru angajații guvernamentali. (Unele părți ale planului de acțiune recomandă ca guvernul să investească masiv în educarea funcționarilor cu privire la bazele tehnice ale sistemelor de inteligență artificială, astfel încât să poată înțelege mai bine riscurile acestora). Raportul a fost livrat sub forma unui document de 247 de pagini Departamentului de Stat la 26 februarie. Departamentul de Stat nu a răspuns la mai multe solicitări de comentarii cu privire la acest raport. Recomandările „nu reflectă punctul de vedere al Departamentului de Stat al Statelor Unite sau al Guvernului Statelor Unite", se arată pe prima pagină a raportului.
Recomandările raportului, multe dintre ele de neconceput până acum, urmează unei serii amețitoare de evoluții majore în domeniul inteligenței artificiale, care au determinat mulți observatori să își recalibreze poziția față de această tehnologie. Chatbotul ChatGPT, lansat în noiembrie 2022, a marcat momentul când acest ritm de schimbare a devenit vizibil pentru întreaga societate, ceea ce i-a determinat pe mulți oameni să se întrebe dacă viitoarele AI ar putea prezenta riscuri existențiale pentru umanitate. De atunci, noi instrumente, cu mai multe capabilități, au continuat să fie lansate într-un ritm rapid. În timp ce guvernele din întreaga lume discută despre cum să reglementeze cel mai bine AI, cele mai mari companii de tehnologie din lume au construit rapid infrastructura pentru a antrena următoarea generație de sisteme mai puternice - în unele cazuri, plănuind să utilizeze o putere de calcul de 10 sau 100 de ori mai mare. Între timp, mai mult de 80% din publicul american crede că AI ar putea provoca accidental un eveniment catastrofal, iar 77% dintre alegători cred că guvernul ar trebui să facă mai mult pentru a reglementa AI, potrivit unui sondaj recent realizat de AI Policy Institute.
Raportul afirmă că interzicerea antrenării sistemelor avansate de inteligență artificială care depășesc un anumit prag ar putea „modera dinamica cursei între toți dezvoltatorii de inteligență artificială" și ar putea contribui la o reducere a vitezei de producție de hardware mai rapid de către industria cipurilor. În timp, o agenție federală pentru inteligență artificială ar putea ridica pragul și permite antrenarea unor sisteme de inteligență artificială mai avansate, odată ce dovezile privind siguranța modelelor de ultimă generație vor fi suficient de dovedite, propune raportul. În egală măsură, se spune în raport, guvernul ar putea reduce pragul de siguranță dacă se descoperă capacități periculoase în modelele existente.
Propunerea se va confrunta probabil cu dificultăți politice. „Cred că este extrem de puțin probabil ca această recomandare să fie adoptată de guvernul Statelor Unite", spune Greg Allen, director al Centrului Wadhwani pentru AI și tehnologii avansate din cadrul Centrului pentru Studii Strategice și Internaționale (CSIS), ca răspuns la un rezumat pe care TIME l-a furnizat cu privire la recomandarea din raport de a scoate în afara legii modelele de antrenament AI care depășesc un anumit prag. Politica actuală a guvernului SUA în materie de inteligență artificială, notează el, este de a stabili praguri de calcul peste care se aplică cerințe suplimentare de monitorizare și reglementare în materie de transparență, dar nu de a stabili limite peste care antrenamentele ar fi ilegale. „În absența unui șoc exogen, cred că este puțin probabil ca ei să schimbe această abordare", spune Allen.
Jeremie și Edouard Harris, CEO și, respectiv, CTO al Gladstone, au informat guvernul SUA cu privire la riscurile AI încă din 2021. Cei doi, care sunt frați, spun că oficialii guvernamentali care au participat la multe dintre primele lor ședințe de informare au fost de acord că riscurile AI sunt semnificative, dar le-au spus că responsabilitatea de a le face față revenea unor echipe sau departamente diferite. La sfârșitul anului 2021, Gladstone a găsit în cele din urmă o ramură a guvernului cu responsabilitatea de a aborda riscurile AI: Biroul de Securitate Internațională și Neproliferare al Departamentului de Stat. Echipele din cadrul Biroului au un mandat interinstituțional de a aborda riscurile generate de tehnologiile emergente, inclusiv armele chimice și biologice, precum și riscurile radiologice și nucleare. În urma unor informări din partea lui Jeremie și a directorului general de atunci al Gladstone, Mark Beall, în octombrie 2022, Biroul a lansat o licitație pentru un raport care ar putea fundamenta o decizie de a adăuga AI la lista altor riscuri pe care le monitorizează. Echipa Gladstone a câștigat acel contract, iar raportul publicat luni este rezultatul acestuia.
Raportul se concentrează pe două categorii distincte de risc. Descriind prima categorie, pe care o numește „risc de înarmare", raportul afirmă: „astfel de sisteme ar putea fi folosite pentru a proiecta și chiar a executa atacuri catastrofale biologice, chimice sau cibernetice, sau pentru a permite aplicații armate fără precedent în robotica de tip roi. A doua categorie este ceea ce raportul numește riscul de „pierdere a controlului", sau posibilitatea ca sistemele avansate de inteligență artificială să își depășească creatorii. Există, spune raportul, „motive să credem că acestea ar putea fi incontrolabile dacă sunt dezvoltate folosind tehnicile actuale și ar putea avea un comportament advers față de ființele umane în mod implicit".
Ambele categorii de risc, se spune în raport, sunt exacerbate de „dinamica rasială" din industria AI. Probabilitatea ca prima companie care va realiza AGI să culeagă majoritatea recompenselor economice, spune raportul, stimulează companiile să acorde prioritate vitezei în detrimentul siguranței. „Laboratoarele de AI de frontieră se confruntă cu un stimulent intens și imediat pentru a-și extinde sistemele de AI cât mai repede posibil", se arată în raport. „Ei nu se confruntă cu un stimulent imediat pentru a investi în măsuri de siguranță sau securitate care nu aduc beneficii economice directe, chiar dacă unii o fac dintr-o preocupare reală".
Raportul Gladstone identifică hardware-ul - în special cipurile de calculator de înaltă performanță utilizate în prezent pentru a antrena sistemele de inteligență artificială - ca fiind un obstacol semnificativ în calea creșterii capacităților de inteligență artificială. Raportul susține că reglementarea proliferării acestui hardware ar putea fi „cea mai importantă cerință pentru a proteja siguranța și securitatea globală pe termen lung față de AI". Raportul afirmă că guvernul ar trebui să analizeze posibilitatea de a lega licențele de export de cipuri de prezența unor tehnologii pe cipuri care să permită monitorizarea utilizării cipurilor în programe mari de instruire a AI, ca modalitate de a aplica normele propuse împotriva instruirii sistemelor de AI mai mari decât GPT-4. Cu toate acestea, raportul notează, de asemenea, că orice intervenție va trebui să ia în considerare posibilitatea ca o reglementare excesivă să sprijine industriile străine de cipuri, erodând capacitatea SUA de a influența lanțul de aprovizionare.
Cei doi experți recunosc că recomandările lor vor părea prea zeloase pentru mulți din industria AI. Ei se așteaptă ca recomandarea de a scoate în afara legii accesul liber la informații despre algoritmii modelelor avansate de inteligență artificială să nu fie populară. „Sursa deschisă este, în general, un fenomen minunat și, în general, masiv pozitiv pentru lume", spune Edouard, directorul de tehnologie al Gladstone. „Este o recomandare extrem de dificilă de făcut și am petrecut mult timp căutând modalități de a evita sugerarea unor astfel de măsuri."
În ciuda provocărilor, autorii raportului spun că au fost influențați de cât de ușor și ieftin este în prezent pentru utilizatori să înlăture pragurile de siguranță de la un model de inteligență artificială dacă au acces la algoritmul acestuia. „Dacă proliferați un model cu sursă deschisă, chiar dacă pare sigur, ar putea fi periculos pe parcurs", spune Edouard, adăugând că decizia de a utiliza un model cu sursă deschisă este ireversibilă. „În acel moment, noroc, tot ce poți face este să accepți pagubele".
Înainte de a co-funda Gladstone împreună cu Beall, frații Harris au condus o companie de inteligență artificială care a trecut prin YCombinator, faimosul incubator din Silicon Valley, în perioada în care la conducere se afla Sam Altman, CEO-ul OpenAI. Cei doi invocă aceste acreditări ca dovadă că sunt de partea industriei, chiar dacă recomandările lor, dacă ar fi puse în aplicare, ar da-o peste cap.
Dar "traiectoria noastră implicită în acest moment", spune el, „pare să fie foarte bine orientată spre crearea unor sisteme suficient de puternice încât fie să poată fi transformate în arme catastrofale, fie să nu poată fi controlate". El adaugă: „Unul dintre cele mai rele scenarii este să avem parte de un eveniment catastrofal care să oprească complet cercetarea în domeniul inteligenței artificiale pentru toată lumea, iar noi să nu ajungem să culegem beneficiile incredibile ale acestei tehnologii."
DIN ACEEASI CATEGORIE...
-
Jaful tezaurului dacic din Olanda. Avocatul suspecților face dezvăluiri în premieră
Doi suspecti ai furtului obiectelor de patrimoniu romanesti de la Muzeul Drents din Assen au vizitat muzeul cu o luna si ...
-
Noi dezvăluiri despre copilul hibrid care a uimit comunitatea științifică
Într-un colț liniștit al Portugaliei, osemintele unui copil, dezgropate in 1998, au aprins o scanteie in lumea ști ...
-
Blocul cerșetorilor din România pe care autoritățile din Olanda nu-l mai pot elibera. O clădire impunătoare a fost invadată și cucerită de oamenii străzii veniți din țara noastră
Cu toate ca majoritatea romanilor plecați in strainatate muncesc cinstit și iși platesc taxele, exista și cazuri care st ...
-
Mega-bombă în America: Marți se publică 80.000 de pagini desecretizate despre asasinarea lui JFK
Președintele Trump a anunțat ca va publica marți 80.000 de pagini de dosare neredactate despre asasinarea președintelui ...
-
Jackson Hinkle e „comunistul MAGA" care i-a intervievat pe Georgescu și Simion iar acum îi cere lui Trump să bombardeze Londra, Parisul și Bruxelles-ul!
Fost susținator al stangii americane, Jackson Hinkle este acum parte a unei mișcari extreme de dreapta care manifesta o ...
-
Umanitatea a intrat deja în prima etapă a sindromului Kessler, fenomenul care ne poate trimite înapoi în timp cu 100 de ani
Emergența turismului spațial, a rachetelor reutilizabile sau planurile de a coloniza Luna sau planeta Marte in urmatoare ...
-
Ordin bombă emis de ANPC: Supermarketurile sunt obligate să afișeze adaosul comercial practicat
ANPC a emis un ordin bomba care va obliga toți comercianții sa afișeze adaosul comercial practicat la produsele pe care ...
-
Dezastru la ministerul condus de Burduja! Producția de energie electrică s-a prăbușit în ianuarie, iar importurile au explodat
Producția de energie electrica a Romaniei a fost in ianuarie 2025 de 4408,8 milioane kWh, cu 1040,2 milioane kWh mai mic ...
-
Elon Musk și-a pus internauții în cap. Mesajul pe care l-a postat, dar l-a șters după câteva minute
Elon Musk a fost taxat de internauți dupa ce a postat un mesaj in mediul online. Miliardarul a repostat un mesaj, despre ...
-
China a luat fața SUA: Americanii pierd lupta pentru tehnologia viitorului legata de Soarele Artificial
China si SUA concureaza pentru a dezvolta prima centrala nucleara pe baza de fuziune la scara industriala, un sector est ...
-
Scenariu de film: un lunetist ucrainean ucide un soldat rus aflat la peste doi kilometri după ce l-a urmărit timp de patru zile
Un lunetist ucrainean, cunoscut sub numele de Lektor, a doborat un soldat rus de la o distanța de mai mult de doua kilom ...
-
Astronomii au detectat un semnal cosmic de origine necunoscută! Un puls regulat, ca o bătaie de inimă, bate la fiecare două ore
În ultimul deceniu, oamenii de știința au detectat un fenomen enigmatic: impulsuri radio provenind din interiorul ...
-
Bătălia pentru metalele rare a ajuns și în Asia Centrală: China domină toată industria, dar din spate vin tare SUA și UE
Lipsa de aprovizionare cu pamanturi rare necesare pentru a alimenta multe dintre gadgeturile considerate indispensabile ...
-
Producția de energie electrică a României a căzut accentuat, cel mai grav la Hidroelectrica. Importurile au explodat, deși consumul economiei s-a redus
Producția de energie electrica a Romaniei a scazut accentuat in prima luna a anului, cu peste 19% fața de ianuarie 2024, ...
-
Elon Musk spune că naveta Starship ar putea decola spre Marte la finalul anului 2026 cu un robot Optimus la bord
Fondatorul SpaceX, Elon Musk, a declarat sambata ca naveta Starship va decola spre Marte la sfarsitul anului 2026, trans ...
-
Ce dezvăluiri face cartea a cărei apariție Mark Zuckerberg se luptă să o împiedice. Autoarea ar fi fost invitată de fosta directoare operațională a Meta să „vină în pat" cu ea
Într-un discurs susținut in 2019 la Georgetown University, Mark Zuckerberg a declarat ca Facebook a fost creata pe ...
-
Putin vrea să scufunde planul lui Trump: Un diplomat dezvăluie cacealmaua dictatorului rus
Discuțiile dintre delegațiile Statelor Unite, Rusiei și Ucrainei s-au desfașurat separat in Arabia Saudita, iar speranțe ...
-
Bărbat abandonat de o ambulanță într-o zonă pustie din Maramureș. Un martor povestește detalii cutremurătoare
Un incident șocant s-a petrecut vineri, in zona Dealul Bocicoielului, in județul Maramureș, unde un barbat inconștient a ...
-
Misterul obiectului care gravitează planeta Marte: ce a surpins sonda Agenției Spațiale Europene în timpul unui survol gravitațional
Sonda Hera a Agenției Spațiale Europene a surprins aceasta imagine a micuței și misterioasei luni marțiene Deimos. Sonda ...
-
Schwab, pe tobogan: Giganții lumii au trădat Davosul și au sărit în barca lui Trump
Klaus Schwab, care a fondat Forumul Economic Mondial in anii 1970 și a modelat discursul globalist timp de decenii, a fo ...
-
Impozitul de 70% al ANAF pentru sumele fără chitanțe este o vânătoare a românilor care au adunat bani la saltea
Decizia ANAF de a impozita cu 70% sumele de bani trimise intre rude, daca nu se poate dovedi proveniența acestora, ar tr ...
-
Oamenii de ştiinţă chinezi au creat primul organ sexual masculin imprimat 3D din lume pentru tratamentul disfuncţiei erectile
O solutie terapeutica pentru disfunctia erectila (DE) ar putea fi disponibila in curand, dupa progresele revolutionare a ...
-
Teoria conspiratiei: Somnul insuficient poate declanșa o schimbare bizară a personalității. Ce au descoperit oamenii de știință
Cercetari alarmante sugereaza ca lipsa constanta de somn ar putea crește riscul de a crede in teorii ale conspirației. P ...
-
Cum vom fi afectați de războiul comercial, inițiat de către Trump. Economist: „Asta e teama pe care o am"
Instalarea lui Donald Trump la Casa Alba a resetat jocul geopolitic. Din ce in ce mai mulți economiști sunt de parere ca ...
-
Donald Trump îl umilește pe Klaus Iohannis, de la Casa Albă: "Nu l-am plăcut deloc!"
În timpul unei intalniri in Biroul Oval, Donald Trump a lansat un comentariu acid la adresa lui Klaus Iohannis, co ...
-
De ce viteza nu este totul? Alte aspecte esentiale la o trotineta electrica
Atunci cand vine vorba de trotinete electrice, multi utilizatori sunt tentati sa se uite doar la viteza maxima. Este uso ...
-
Donald Trump vrea să cumpere Nord Stream și să dea gaze rusești la toată Europa
Statele Unite se afla in discuții cu Rusia și cu Germania pentru achiziționarea Nord Stream și a altor infrastructuri en ...
-
Un cunoscut economist anunță că România va intra în recesiune din cauza inflației: Prețurile la energie și carburanți vor exploda
Romania risca sa intre in criza economica din cauza inflației extrem de mari. Datele Institutului National de Statistica ...
-
Pensionară ucisă de un băiețel de 5 ani care învăța să meargă cu bicicleta. Tatăl a fost acuzat de omor
Un italian a fost achitat de acuzația de omor prin imprudența dupa ce fiul sau de 5 ani a lovit fatal o pensionara in ti ...
-
Tradiții și obiceiuri legate de oferirea florilor în lunile de primăvară pe străzile din București
În fiecare an, odata cu primele zile insorite din martie, strazile Bucureștiului prind viața și se umplu de oameni ...
comentarii
Adauga un comentariuAdauga comentariu