Säkerhetsföretaget TrendAI har publicerat en ny undersökning som visar att företag över hela världen fortsätter att driva på införandet av AI, trots kända risker kopplade till både säkerhet och regelefterlevnad. Resultaten pekar på ett växande gap mellan takten i AI-införtandet och organisationernas förmåga att styra, följa upp och säkra användningen. Samtidigt ökar oron för känslig data, skuggverktyg och bristande kontroll.
Undersökningen, som har tillfrågat 3700 affärs- och IT-beslutsfattare, visar att 67 procent har känt sig pressade att införa AI, trots att de känt oro kring säkerheten. En av sju beskriver sin oro som ”extrem” men har åsidosatt känslan för att de känt sig pressade att hålla jämna steg med konkurrenter.
– Företag är medvetna om risker, men saknar däremot möjligheten att hantera dem, säger Martin Fribrock, Country Manager Sweden, Finland and Baltics på TrendAI. När implementeringen drivs av press från konkurrenter snarare än mognad i styrning och kontroll, skapar vi situationer där AI byggs in i kritiska system utan de verktyg som behövs för säker hantering. Den här undersökningen understryker hur viktigt det är att vi hjälper företag att skapa starka affärsresultat med AI, utan att tumma på riskhanteringen.
Riskerna som kommer med att låta konkurrens förhasta införandet av AI förstärks i kombination med bristande i styrning och otydlig ansvarsfördelning för AI-risker, vilket också blir allt vanligare. Samma sak gäller säkerhetsteam som på grund av att implementeringen av AI toppstyrs får arbeta reaktivt efter ledningens beslut. Detta leder ofta till nödlösningar och ökad användning utav skugg-AI och andra AI-verktyg som inte är godkända i organisationen.
Ny forskning från företaget visar samtidigt ett tydligt skifte; att angripare redan använder AI för att automatisera sitt kartläggande, accelerera nätfiske och i allmänhet sänka tröskeln för cyberkriminalitet. Detta både ökar hastigheten och omfattningen av attacker.
Styrningen hinner inte med AI-användningen
Företag implementerar AI fortare än de kan hantera riskerna, något som ökar gapet mellan ambition och kontroll. 57 procent säger att AI-implementationen går fortare än de kan säkra användningen, medan mer än hälften (64 procent) uppger att de bara har måttlig förståelse för de juridiska ramverk som styr AI.
Mognadsgraden för styrning är fortsatt låg. Bara drygt en tredjedel (38 procent) av företagen uppger att de har omfattande regelverk för AI på plats, medan många fortfarande håller på att ta fram dem. 41 procent menar att otydliga regelverk eller efterlevnadskrav är ett hinder. I praktiken innebär det att AI införs i verksamheter utan att fullt etablera regler för hur det ska användas.
Förtroendet för autonom AI är fortfarande lågt
Förtroendet för mer avancerade, autonoma system befinner sig fortfarande i en mognadsfas. Färre än hälften (48 procent) tror att AI-agenter avsevärt kommer att förbättra cyberförsvaret på kort sikt, samtidigt som oro kring dataåtkomst, felaktig användning och bristande kontroll kvarstår.
Datan visar också var oron är som störst. Mer än fyra av tio företag (44 procent) uppger att det de upplever utgör störst risk är AI-agenter som får tillgång till känslig data. Över en tredjedel (36 procent) varnar för att skadliga promptar kan äventyra säkerheten, medan en av tre (33 procent) pekar på att attackytan för cyberkriminella växer. Lika många (33 procent) befarar missbruk av betrodda AI-verktyg, samt risker kopplade till autonom distribution av kod.
Samtidigt menar nästan en tredjedel (31 procent) att de saknar insyn eller spårbarhet i systemen, vilket väcker allvarliga frågor om hur organisationer kan kontrollera eller ingripa när agenter väl har tagits i drift.
Runt 40 procent av företagen stödjer införandet av AI-baserade nödstopp (kill-switch) för att stänga ned system vid fel eller felaktig användning, medan nästan hälften är osäkra. Bristen på samsyn belyser ett djupare problem i sig: Företag rör sig mot autonom AI utan enighet om hur kontrollen ska upprätthållas när det verkligen gäller.
– Agentisk AI innebär en ny typ av risk för företag, säger Martin Fribrock. Vår forskning visar redan nu tydliga farhågor, från exponering av känslig data, till att förlora kontrollen. Utan insyn och styrning implementerar företag system de vare sig förstår eller kan styra. Den risken kommer bara att öka om vi inte vidtar åtgärder.
