
Prije nego što donesemo naše odluke 'ekonomija namjere' vođena umjetnom inteligencijom će ih prodavati
Konverzacijski AI agenti mogu se prilagoditi da prikriveno utječu na naše namjere
Nalazimo se na pragu "unosnog, ali problematičnog novog tržišta digitalnih signala namjere", od kupnje ulaznica za kino do glasovanja za političke kandidate, tvrde etičari s Cambridgea.
U bliskoj budućnosti možemo očekivati AI pomoćnike koji predviđaju i utječu na naše donošenje odluka u ranoj fazi i te "namjere" u stvarnom vremenu prodaju tvrtkama koje mogu zadovoljiti naše potrebe i prije nego što mi donesemo ikakvu odluku, tvrde etičari umjetne inteligencije sa Sveučilišta u Cambridgeu. Nalazimo se, kažu oni, na pragu "unosnog, ali problematičnog novog tržišta digitalnih signala namjere", od kupnje ulaznica za kino do glasovanja za političke kandidate.
Sve to dobilo je i ime: Intention Economy, odnosno ”ekonomija namjere”.
Neobične sposobnosti
Yaqub Chaudhary i Jonnie Penn tvrde da eksplozija generativne umjetne inteligencije i naša sve veća povezanost s chatbotovima otvaraju nove mogućčnosti raznim “tehnologijama uvjeravanja”. Razni "antropomorfni" AI agenti, od chatbot pomoćnika do digitalnih učitelja i djevojaka, imat će pristup golemim količinama intimnih psiholoških podataka i podataka o ponašanju, često prikupljenih putem neformalnog razgovora. Ova umjetna inteligencija, kažu, kombinirat će znanje o našim online navikama s neobičnom sposobnošću da nam se prilagodi oponašanjem osobnosti i predviđanjem željenih odgovora, sve kako bi se izgradile razine povjerenja i razumijevanja koje omogućuju društvenu manipulaciju na industrijskoj razini.

Jonnie Penn i Yaqub Chaudhary, istraživači Leverhulme Centra za budućnost inteligencije (LCFI) iz Cambridgea i autori studije koja govori o "ekonomoiji namjere"
"Ono što ljudi govore tijekom razgovora, kako to govore i vrsta zaključaka koji se kao rezultat toga mogu izvesti u stvarnom vremenu daleko su intimniji od pukih zapisa online interakcija", tvrde istraživači koji upozoravaju da se AI alati razvijaju za "izvođenje, zaključivanje, prikupljanje, bilježenje, razumijevanje, predviđanje i konačno manipuliranje i komodificiranje ljudskih planova i svrha".
Motivi kao nova valuta
"Ako se ne regulira na vrijeme, ekonomija namjera tretirat će vaše motive kao novu valutu. Bit će to zlatna groznica za one koji ciljaju, upravljaju i prodaju ljudske namjere”, kažu istraživači u radu koji objavljuje Harvard Data Science Review. "Trebali bismo razmotriti utjecaj koje bi takvo tržište imalo na ljudske težnje, uključujući slobodne i poštene izbore, slobodni tisak i pošteno tržišno natjecanje, prije nego što postanemo žrtve neželjenih posljedica."
U ekonomiji namjera, veliki jezični modeli ili LLM mogu se koristiti za ciljanje politike, rječnika, dobi, spola, online povijesti, pa čak i preferencija za dodvoravanje korisnicima, pišu istraživači koji najavljuju pojavu posredničkih mreža ua prikupljanje informacija uz čiju će se pomoć lakše doći do zadanog cilja, poput prodaje karata za kino: "Spomenuli ste da ste prezaposleni, mogu li vam rezervirati onu ulaznicu za kino o kojoj smo razgovarali?" Sve to moglo bi uključiti i usmjeravanje razgovora u službi određenih platformi, oglašivača, tvrtki pa čak i političkih organizacija, tvrde istraživači.
Namjere velikih igrača
Ekonomija namjere trenutno je tek "težnja" tehnološke industrije, no istraživači jasno uočavaju prve nagovještaje velikih tehnoloških igrača. OpenAI otvoreno poziva na prikupljanje "podataka koji izražavaju ljudsku namjeru... u bilo kojem jeziku, temi i formatu", Shopify chatbotove vidi kao sredstvo otkrivanja namjera korisnika, Nvidia govori o korištenju LLM-a za utvrđivanje namjera i želja, dok je Meta još 2021. objavila Intentonomy, skup podataka za razumijevanje ljudskih namjera. Appleov App Intents za povezivanje aplikacija sa Sirijem uključuje protokole za predviđanje radnji koje bi netko mogao poduzeti u budućnosti i za sugeriranje namjere aplikacije nekome u budućnosti koristeći predviđanja koja daju programeri.
Uostalom, podsjećaju istraživači, AI agenti kao što je Metin CICERO dosegli su ljudsku kvalitetu igranja u igri "Diplomacy" koja ovisi o zaključivanju i predviđanju namjere i korištenju uvjerljivog dijaloga za unapređenje vlastitog stava.
“Ove tvrtke već prodaju našu pozornost; logičan sljedeći korak je korištenje tehnologije za predviđanje naših namjera i prodaju naših želja prije nego što uopće u potpunosti shvatimo što one jesu”, najavljuju istraživači koji upozoravaju na destruktivan potencijal takvog razvoja događaja. "Javna svijest o onome što dolazi ključ je da ne krenemo krivim putem."
Izvor: BUG
Povezane vijesti
TechNovi trik masovno se širi
Vi vidite običan e-mail, računalo nešto sasvim drugo
TechMeta pristala na nagodbu vrijednu do 17 milijardi dolara: evo što se mijenja za maloljetnike na Facebooku i Instagramu
Nagodbom američkih saveznih država uvode se stroža ograničenja za mlade, no dogovor još čeka odobrenje suda
TechTko je autor AI slike? MIT-ova studija otkriva da odgovora često nema
Istraživanje objavljeno u časopisu Nature Communications uvodi pojam „propadanja atribucije": što je model veći, to je teže dokazati da je pojedina slika utjecala na njegov rezultat
TechMogu li električni auti spasiti planet?
Napokon otkriveno koliko električni auti smanjuju emisije štetnih plinova
Najčitanije vijesti (tjedan dana)
- 1
Njihova djela i žrtva nikada ne smiju pasti u zaborav - 2
Kazne se penju do vrtoglavih milijun eura: Ovaj propust skupo će vas koštati! - 3
Veliki iskorak kojim će pacijenti dobiti skrb na razini europskih klinika - 4
Država prostor na slavonskobrodskom Korzu nudi po početnoj cijeni od 946 eura - 5
Skuplje doplate za šest lijekova: Provjerite je li i vaša terapija među njima
Najnovije vijesti
- 1
Novi Zakon o potrošačkim kreditima: Nema više samovoljnog povećanja minusa ni naknada za stambene kredite - 2
Evo gdje ove subote odvoze glomazni otpad - 3
Ministarstvo oštro o bojkotu nastave: Ne dopustite da vas politički akteri iskoriste, svi izostanci bit će neopravdani - 4
Podržan rebalans proračuna Brodsko-posavske županije za 2026. godinu - 5
Napuštaju montažnu halu i grade moderan dom
Top 10 tjednih tema
Pratite nas na Facebook stranici, Instagram profilu, YouTube kanalu i TikToku te se pridružite našoj Facebook grupi i raspravljajte s nama o aktualnim temama.
Imate priču? Javite nam se na redakcija@infopix.hr