Un amplu studiu atestă că inteligenţa artificială poate dezinforma mult mai eficient decât s-a crezut iniţial
Postat la: 02.08.2023 | Scris de: ZIUA NEWS
0
Noile cercetări dezvăluie capacitățile impresionante, dar tulburătoare ale generatoarelor de text bazate pe inteligenţa artificială (AI), cum ar fi ChatGPT-3 de la OpenAI, indicând că poate furniza informații neadevărate mai convingător decât ființele umane pe platformele de social-media.
Studiul, publicat recent în Science Advances, evidențiază capacitatea extraordinară a modelelor sofisticate de limbaj AI de a emula scrisul uman și provocările asociate cu identificarea conținutului sintetic sau generat de AI. Dr. Federico Germani, coautor al studiului recent și cercetător la Institutul de Etică Biomedicală și Istoria Medicinei de la Universitatea din Zurich din Elveția, a subliniat necesitatea înțelegerii impactului dezinformării generate de AI asupra sănătății individuale și publice.
„Grupul nostru de cercetare este dedicat înțelegerii impactului dezinformarii științifice și asigurării angajării în siguranță a persoanelor cu informații. Ne propunem să atenuăm riscurile asociate cu informațiile false privind sănătatea individuală și publică. Apariția modelelor AI precum GPT-3 a stârnit interesul nostru pentru a explora modul în care AI influențează peisajul informațional și modul în care oamenii percep și interacționează cu dezinformările", a declarat dr. Germani pentru PsyPost.
Introdus în 2020, ChatGPT-3 de la OpenAI a devenit o schimbare în peisajul AI, capabil să producă texte uimitor de credibile și autentice bazate pe solicitări. Generatoarele de text AI, cum ar fi ChatGPT-3, oferă o multitudine de utilizări potențiale, cum ar fi crearea de chatbot-uri interactive, îmbunătățirea software-ului de traducere, sprijinirea cercetării academice, eficientizarea răspunsurilor serviciului clienți și chiar generarea de conținut creativ nou, cum ar fi poezie și povestiri scurte. Cu toate acestea, potențiala utilizare greșită a acestei tehnologii puternice ridică preocupări semnificative, în special capacitatea sa de a crea dezinformare și conținut înșelător. Aceste preocupări sunt și mai presante, având în vedere creșterea rețelelor sociale și capacitatea acesteia de a crește semnificativ viteza și amploarea cu care informațiile, inclusiv dezinformarea, se pot răspândi.
Amplificând problema, un alt studiu empiric recent a constatat că oamenii își supraestimează adesea capacitatea de a detecta informații false sau înșelătoare în ceea ce cercetătorii numesc cu afecțiune „prostia orbului".
Evenimentele din ultimii ani, cum ar fi pandemia de COVID-19 sau invazia Rusiei în Ucraina, au subliniat potențialul ca dezinformarea să influențeze în mod semnificativ opinia publică, comportamentele de sănătate și deciziile politice. Companiile au încercat în mod activ să atenueze răspândirea informațiilor false pe platformele lor. Cu toate acestea, raportul Meta privind amenințările adverse din primul trimestru din 2023 a recunoscut că operațiunile de influență sub acoperire, spionajul cibernetic și rețelele private de dezinformare rămân probleme semnificative pe rețelele sociale.
Având în vedere influența și popularitatea în creștere a generatorilor de text AI, Dr. Germani și colegii săi au decis să exploreze cât de bine pot face oamenii să distingă între conținutul generat de oameni și textul creat de ChatGPT-3.
Designul studiului a implicat 11 subiecți adesea susceptibili la dezinformare, cum ar fi schimbările climatice, siguranța vaccinurilor, COVID-19 și tehnologia 5G. Folosind ChatGPT-3, au creat tweet-uri sintetice care cuprind informații adevărate și false pentru fiecare subiect. Ei au adunat, de asemenea, un eșantion aleatoriu de tweet-uri autentice de pe Twitter pe aceleași subiecte, care au inclus atât conținut veridic, cât și inexact.
Evaluările experților au fost folosite pentru a clasifica tweet-urile adunate în patru categorii: fals sintetic, adevărat sintetic, fals organic și adevărat organic.
Un eșantion de grup de 697 de participanți la studiu, în principal din Regatul Unit, Australia, Canada, Statele Unite și Irlanda, au fost apoi rugați să identifice dacă un tweet conține informații adevărate sau false și dacă a fost creat de un om sau ChatGPT-3.
Rezultatele au arătat că oamenii au fost mai pricepuți la identificarea dezinformațiilor în tweet-urile „organice false" (scrise de utilizatori reali) în comparație cu tweet-urile „sintetice false" (create de ChatGPT-3).
Dimpotrivă, oamenii au fost mai înclinați să recunoască corect informațiile exacte în tweet-urile „adevărate sintetice" (generate de ChatGPT-3) în comparație cu tweet-urile „adevărate organice" (scrise de utilizatori reali).
Studiul a arătat că participanții s-au luptat adesea să facă diferența între tweet-urile create de oameni și cele create de ChatGPT-3.
„Rezultatele sugerează că GPT-3 poate fi mai eficient în transmiterea de informații, deoarece poate genera text care este mai ușor de citit și de înțeles în comparație cu textul scris de oameni", au scris cercetătorii.
În timpul studiului, cercetătorii au remarcat că ChatGPT-3 a refuzat ocazional să creeze dezinformare, în special atunci când li s-a cerut să producă informații false despre vaccinuri și autism. Cu toate acestea, în unele cazuri, ChatGPT3 ar genera informații false chiar și atunci când este însărcinat să producă conținut corect. În mod intrigant, cercetătorii au descoperit că ChatGPT-3 nu a avut performanțe mai bune decât oamenii în recunoașterea informațiilor și a dezinformarii, demonstrând că modelul de limbaj AI nu era în esență „conștient" de veridicitatea informațiilor pe care i-a fost solicitat să le producă.
Dr. Germani a subliniat mediul experimental controlat al studiului, menționând că, deși ridică îngrijorări cu privire la potențialul AI de a genera dezinformare persuasivă, implicațiile din lumea reală trebuie încă înțelese pe deplin. El a sugerat studii la scară mai mare pe platformele de social media pentru a înțelege mai bine modul în care oamenii interacționează cu informațiile generate de AI și cum aceste interacțiuni modelează comportamentul și aderarea la recomandările de sănătate publică.
În cele din urmă, studiul luminează capacitățile fără precedent ale generatoarelor de text AI și subliniază nevoia urgentă de vigilență și alfabetizare în era digitală. În timp ce AI aduce beneficii enorme, utilizările și abuzurile sale potențiale vor deveni, fără îndoială, mai complexe pe măsură ce tehnologia evoluează.
„După cum demonstrează rezultatele noastre, modelele mari de limbă disponibile în prezent pot produce deja text care nu se poate distinge de textul organic; prin urmare, apariția unor modele de limbaj mari mai puternice și impactul lor ar trebui monitorizate. Este esențial să continuăm să evaluăm în mod critic implicațiile acestor tehnologii și să luăm măsuri pentru a atenua orice efecte negative pe care le-ar putea avea asupra societății", au scris cercetătorii.
DIN ACEEASI CATEGORIE...
ULTIMA ORA
-
Detalii despre filmările la „Mad Max: Fury Road" - Actorul Tom Hardy e la cuțite cu Charlize Theron: "Situația a scăpat de sub control"
Regizorul australian George Miller a făcut declarații despre conflictul de pe platoul de filmare dintre Tom Hardy și Charlize Theron, vedetele din „Mad Max: Fury Road/ Mad Max: Drumul furiei", în cadrul unui interviu acordat publicației The Telegraph.
-
Demență totală: AMC pune avertisment la filmul Goodfellas pentru "lipsa persoanelor de culoare" în mafia italiană!
AMC a plasat un avertisment la difuzarea filmului Goodfellas, avertizând publicul că lipsește "incluziunea și toleranța" din cauza lipsei persoanelor de culoare portretizate în mafia italiană.
-
Un ucrainean a detonat o petardă în vaginul soției. Ea era din Republica Moldova și a scăpat cu viață doar printr-o minune
Tribunalul Regional din Plzeň a început săptămâna trecută să judece un ucrainean care și-a mutilat soția, o tânără moldoveancă refugiată în Cehia. Anul trecut, într-un hostel din Kožlany, în regiunea Plzen, a legat-o de pat și a detonat o petardă pe care o introdusese anterior în vaginul ei.
-
Cum a scăpat o femeie din mâinile criminalului în serie „Casanova Killer"
Singura femeie care a reușit să scape din mâinile cunoscutului criminal în serie, „Casanova Killer", Barbara Abel, s-a folosit de un truc care ține de psihologie. Ea a povestit, recent, cel mai greu moment din viața ei.
-
Care sunt cele mai ușor de ghicit PIN-uri bancare, dar și cele mai sigure. Listele expertilor in coduri criptate
Un cod PIN unic și greu de ghicit poate face diferența în securitatea conturilor dumneavoastră. Așadar, iată ce trebuie să evitați atunci când alegeți un număr PIN pentru cardul bancar.
-
Bill Gates dă 26,5 milioane de dolari pentru un vaccin care sa opreasca flatulențele vacilor!
ArkeaBio, o companie din Boston care a dezvoltat un vaccin pentru a reduce emisiile de metan ale animalelor de fermă, a obținut 26,5 milioane de dolari printr-o finanțare cu capital de risc condusă de un fond de investiții fondat de Bill Gates.
-
Specialist în aviație spune de ce s-ar fi prăbușit elicopterul cu Raisi: "Practic nu am văzut nicio comunicare..."
Un specialist în aviație susține că lipsa unui apel SOS de la pilotul elicopterului prăbușit în Iran, în care se afla președintele Raisi, indică o „problemă gravă de control". Procedurile arată că în astfel de cazuri prioritate au manevrele de zbor și apoi se poate comunica.
-
Lovitură dură pentru China, care a vrut să profite de agenda ecologică a UE: Mașinile electrice chinezești 'putrezesc' în porturile din Europa
Companiile chineze de vehicule electrice par să nmu aibă deloc succes după ce au invadat agresiv piețele europene, încercând să profite de agenda ecologică a UE.
-
Prinde Corbu, scoate-i ochii: Primarul din Bușteni patronează o suveica financiară prin interpusi careia i-a dat de capăt DNA si Curtea de Conturi
Primaria Busteni a devenit sălașul unor afaceri extrem de dubioase. De la angajari "pe spranceana", motivate cu salarii uriase, de pilda o secretara care devine interpusa in firmele de investitii, pana la nepotisme, miscari de bani prin conturi ilicite si multe astfel de "inginerii" ale primarului Mircea Corbu au devenit obiectul Curtii de Conturi
DIN CATEGORIE
- TOP CITITE
- TOP COMENTATE
- 1.Planul Soros respectă și îmbunătățește Planul Kalergi: cele 6 puncte principale dupa care se va modela viitorul Europei după Europarlamentare
- 2.Prefectul Cosa Nostra: mafia din Techirghiol a vândut sub patronajul primarului Iulian Soceanu pana și terenul de sub statia de autobuz!
- 3.Israelul isi face planurile pentru Gaza depopulata de palestinieni - O megaregiune futuristă între Eurasia și Africa pe placul Forumului de la Davos
- 4.Șocul inevitabil ce lovește lumea: Celebrul Nouriel Roubini avertizează că vine Mama tuturor crizelor!
- 5.Ce a discutat preotul Mega cu Putin. Regizorul s-a mai întâlnit cu fostul președinte Medvedev și cu filantropul Konstantin Malofeev
- 6.Dosarul secret al lui Iohannis si ultimul obstacol privind recuperarea casei din Sibiu și a banilor din chirie
- 7.Tucker Carlson interviu cu Kris Newby: Boala Lyme provine din laboratoarele biologice americane VIDEO
- 8.Syria TV: Un sef din serviciile de informații românești a vizitat Siria și s-a întâlnit cu Bashar al-Assad
- 9.Primăria interlopă a Capitalei: Nicușor Dan îi bagă-n conturi un milion de euro lui Manu Bombardieru ginerele lui Sile Cămătaru
- 10.Omul numărul doi al Rusiei crede că Siberia va fi unul dintre cele mai sigure locuri de pe Pământ și de aceea „elitele anglo-saxone" vor să cucerească regiunea
comentarii
Adauga un comentariuAdauga comentariu