Tekoälyverktyg kan snart påverka människors beslutsfattande på nätet, anser forskare. Enligt deras studie är vi på väg in i en "avsiktsekonomi" där företag bjuder på detaljerade prognoser över människors beteende.
Studien publicerades i måndags i vetenskapstidskriften Harvard Data Science Review.
Avsiktsekonomin – en ny fas i den digitala ekonomin
Forskare beskriver avsiktsekonomin som nästa steg efter uppmärksamhetsekonomin. Den bygger på nya marknader för så kallade digitala avsiktssignaler.
Medan uppmärksamhetsekonomin har handlat om att hålla användare engagerade på sociala medier och visa dem annonser, innebär avsiktsekonomin att information genereras genom att AI förstår, förutsäger och påverkar människors avsikter och sedan säljer dessa data till företag.
AI och försäljning av personliga avsikter
Ett exempel på avsiktsekonomi är hur teknikföretag som använder AI säljer information till högstbjudande om individers planer och preferenser. Detta kan röra allt från hotellbokningar till politiska åsikter, skriver brittiska tidningen The Guardian.
– Uppmärksamhet har i årtionden varit internetets valuta, säger Jonnie Penn, historiker vid Leverhulme Centre for the Future of Intelligence vid Cambridges universitet.
– Om det inte regleras kommer avsiktsekonomin att använda människors motiv som en ny valuta. Det blir en guldrusch för dem som riktar in sig på, styr och säljer människors avsikter.
AI-teknikens roll i avsiktsekonomin
Studien visar att stora språkmodeller, som ligger till grund för AI-verktyg som ChatGPT, används för att förutse och styra användares handlingar. Dessa modeller bygger på psykologiska och beteendemässiga data för att förstå och påverka intentioner.
Generativ AI kan också användas av annonsörer för att skapa skräddarsydda reklamkampanjer som är direkt anpassade till användarnas behov och preferenser.
Framtiden kräver reglering och ansvar
Forskarnas resultat väcker frågor om behovet av regleringar för att skydda individers integritet i en ekonomi där avsikter och motiv blir handelsvaror.
– Utan tydliga regler kan vi se en utveckling där människors inre drivkrafter och beslut säljs till högstbjudande, varnar Penn.
Studien betonar att utvecklingen av AI och dess tillämpningar kräver noggrann övervakning för att säkerställa att tekniken används på ett etiskt och ansvarsfullt sätt.
Källa: Tekniikan Maailma