Rädsla för att göra fel och oro från kunder är utmaningar som måste tas på allvar för att undvika att AI-utvecklingen bromsas in – eller leder åt fel håll.
I Cisco-rapporten Data Privacy Benchmark Study från Cisco, som släpptes i slutet av januari och bygger på svar från 2 600 dataskydds- och IT-säkerhetsexperter i tolv länder, lyfts flera viktiga utmaningar kring den tekniska utvecklingen.
Bland annat uppger nästan hälften, 48 procent, av respondenterna att det förekommit incidenter där konfidentiella data laddats upp i publika AI-tjänster, exempelvis uppgifter om anställda eller intern företagsinformation.
27 procent av respondenterna uppger att deras arbetsgivare förbjudit användandet av publika AI-tjänster i arbetet helt, och långt fler har infört begränsningar kring vilka data som kan matas in i tjänsterna, och vilka verktyg som är tillåtna.
Att AI uppfattas som en fundamentalt annorlunda teknik som skapar helt nya typer av utmaningar och orosmoment, är tydligt, menar Dev Stahlkopf, som är Chief Legal Officer på Cisco.
"92 procent svarade att det krävs nya tekniker för att hantera data och risker kring AI. Bland deras största farhågor nämnde 69 procent potentialen för GenAI att skada deras organisations juridiska och immateriella rättigheter. 68 procent var oroliga för att den information som matades in skulle kunna delas offentligt eller med konkurrenter. Och lika många lyfte fram faror med att informationen som AI:n returnerar till användaren kan vara felaktig. Det här är verkliga risker, men de är hanterbara med en genomtänkt strategi för styrning och regelefterlevnad”, säger hon i en intervju som publicerats på Ciscos hemsida.
Men det är inte bara de interna utmaningarna som spelar in. Hela 94 procent uppger att deras kunder – företag eller konsumenter – är mindre benägna att handla varor och tjänster av ett företag om de inte känner sig trygga i att data hanteras korrekt och säkert, och att 60 procent av konsumenterna redan övergett ett eller flera varumärken på grund av oförsiktig datahantering.
Att många företag är medvetna om affärsrisken avspeglas i att en stor majoritet är positivt inställda till nya och skärpta dataskyddslagar, där 80 procent uppger att regelverken har en övervägande positiv effekt på verksamheten, och endast seks procent att nackdelarna är större än fördelarna.
”Dessutom uppfattas investeringar i dataskydd som en sund investering, och det finns en stark återbäring. Våra data visar att de kunder tjänar uppskattningsvis 1,6 dollar för varje dollar de investerar i dataskydd”, säger Dev Stahlkopf.
Cisco har arbetat fram ett ramverk för att hantera utmaningarna, Responsible AI Framework, som ligger till grund för företagets AI-förstärkta produkter och tjänster och för deras rådgivning kring infrastruktur och cybersäkerhet.
Dev Stahlkopf lyfter fram att en teknik som utvecklas så snabbt, och ofta på ett sätt som gör det svårt att förutspå riktningen på förhand, kräver att man förhåller sig till den med både spänd förväntan och ödmjukhet. Det viktigaste för att navigera rätt mellan utvecklingens blindskär är att företag är beredda att snabbt kunna anpassa sig till nya regelverk, kunders åsikter och nya risker:
"Företag kommer att behöva vara flexibla och anpassningsbara till förändrade regler, konsumentproblem och föränderliga risker. Det kommer också att behövas ett starkt samarbete mellan den offentliga och den privata sektorn. AI har en enorm potential att skapa nytta, men det kommer att krävas att alla parter - näringslivet, myndigheter, utvecklare, leverantörer och användare – drar åt samma håll, för att främja ansvarsfull innovation utan att kompromissa med integritet, mänskliga rättigheter och säkerhet."