Pereiti į pagrindinį turinį

Mokslininkai įspėja apie naują grėsmę: dirbtinis intelektas jumis manipuliuos

2024-12-30 13:47
Emilija Ferdmanaitė (ELTA)

Kembridžo universiteto mokslininkai pirmadienį paskelbtame straipsnyje įspėjo, kad pokalbių dirbtinio intelekto įrankiai netrukus galės „slapta daryti įtaką“ vartotojų priimamiems sprendimams naujoje komercinėje erdvėje, vadinamoje „ketinimų ekonomika“.

Mokslininkai įspėja apie naują grėsmę: dirbtinis intelektas jumis manipuliuos
Mokslininkai įspėja apie naują grėsmę: dirbtinis intelektas jumis manipuliuos / Pixabay nuotr.

Tyrime teigiama, kad potencialiai „pelninga, bet kelianti nerimą“ vadinamųjų „skaitmeninių ketinimų signalų“ rinka netolimoje ateityje gali daryti įtaką viskam – nuo kino bilietų pirkimo iki balsavimo už politinius kandidatus.

Mokslininkai pastebi, kad vis populiarėjantys pokalbių robotai, skaitmeniniai mokytojai ir kiti vadinamieji „antropomorfiniai“ DI agentai padeda kurti naują „įtikinėjimo technologijų“ įvairovę.

Ateityje DI derins žinias apie mūsų internetinius įpročius su didėjančiu gebėjimu pažinti vartotoją ir numatyti jo ar jos norus bei kurti „naują pasitikėjimo ir supratimo lygį“, pažymi du straipsnio bendraautoriai.

Jei tai nebus kontroliuojama, situacija gali sudaryti sąlygas „socialinėms manipuliacijoms industriniu mastu“, teigė Kembridžo Leverhulmo intelekto ateities centro (LCFI) mokslininkai straipsnyje, paskelbtame žurnale „Harvard Data Science Review“.

Straipsnyje aprašoma, kaip šis naujasis sektorius – vadinamas „ketinimų ekonomika“ – formuos vartotojų dėmesio ir komunikacijos stilių profilius ir susies juos su jų elgesio modeliais bei pasirinkimais.

„Jau dabar kuriami DI įrankiai, kurie išgauna informaciją ir daro išvadas, renka, registruoja, supranta, prognozuoja ir galiausiai manipuliuoja žmogaus planais ir tikslais bei paverčia juos preke“, – sakė vienas iš autorių Yaqubas Chaudhary.

Tyrimo duomenimis, naujasis DI remsis vadinamaisiais didžiaisiais kalbos modeliais, kurie padės įvertinti vartotojo kalbėseną, politines pažiūras, žodyną, amžių, lytį, internetinę istoriją ir netgi pageidavimus būti pagirtam ar pamalonintam.

Tai būtų susieta su kitomis naujomis DI technologijomis, kurios bandys pasiekti tam tikrus tikslus, pavyzdžiui, parduoti bilietą į kiną arba nukreipti pokalbius į tam tikras platformas, reklamuotojus, įmones ar net politines organizacijas.

„Jei šie dalykai nebus reguliuojami, ketinimų ekonomika manipuliuos jūsų motyvacija tarsi nauja valiuta“, – teigė tyrimo bendraautorius Jonnie Pennas.

„Tai bus tikra aukso gysla tiems, kurie taikosi į žmonių ketinimus, siekdami juos nukreipti ir parduoti“, – pridūrė jis.

„Turėtume pradėti svarstyti, kokį poveikį tokia rinka gali turėti žmonių siekiams, įskaitant laisvus ir sąžiningus rinkimus, laisvą spaudą ir sąžiningą rinkos konkurenciją, kol netapome jos nenumatytų pasekmių aukomis.“

J. Pennas pažymėjo, kad visuomenės informuotumas šiuo klausimu yra „būtinas, kad nepasuktume klaidingu keliu“.

Naujausi komentarai

Komentarai

  • HTML žymės neleidžiamos.

Komentarai

  • HTML žymės neleidžiamos.
Atšaukti
Komentarų nėra
Visi komentarai (0)

Daugiau naujienų