Az AI vállalati alkalmazása: előny vagy biztonsági kihívás?

Az AI már nem csupán a jövő lehetősége, hanem a jelen valósága. A Cybernews biztonsági szakértőinek elemzése alapján a S&P 500 vállalatainak több mint fele nyíltan beismerte, hogy napi működésük során AI-eszközöket alkalmaz. A kutatók 327 ilyen céget vizsgáltak meg, hogy feltérképezzék, milyen konkrét módokon integrálják az AI-t üzleti folyamataikba, és hogy ezzel párhuzamosan milyen új típusú sebezhetőségek kerülnek napvilágra.

A felfedezett alkalmazási lehetőségek rendkívül sokszínűek: a nyelvi modellekre épülő belső analitikától kezdve az automatizált ügyfélszolgálatokon át a felhasználókkal közvetlen interakciót folytató chatbotokig terjed a spektrum. Ezek az innovatív eszközök nem csupán a vállalatok működésének hatékonyságát növelik, hanem egyben a biztonsági kockázatok mértéke is gyors ütemben emelkedik.

A három legjelentősebb veszélyforrás a téves információk, az adataink elvesztése és az ipari kémkedés.

Zilvinas Girénas, a nexos.ai termékvezetője szerint ezek a fenyegetések nem magából a technológiából, hanem annak nem megfelelő használatából és védelméből fakadnak. Úgy véli, az AI rendszereknek ugyanolyan szigorú biztonsági előírásokat kellene követniük, mint a repülőgépeknek: folyamatos felügyelet, világos szabályrendszer és "zero-trust" megközelítés szükséges.

A kutatók szerint az AI-hoz kapcsolódó fenyegetések palettája folyamatosan bővül:

A különböző szektorokban jelentős eltérések figyelhetők meg. A technológiai ipar 61 képviselője összesen 202 problémás esetet jelentett be, amelyből 40 a szellemi tulajdon eltulajdonítása, 34 a hibás kimenetek és 32 adatszivárgások kapcsolódik. Ezzel szemben a pénzügyi és biztosítási ágazatban, ahol 56 vállalat működik, a legfőbb gondot az adatszivárgások jelentik (35 eset), továbbá 22 algoritmikus torzítással is szembe kell nézniük. E két kockázat együttvéve komoly társadalmi következményekkel járhat.

Az egészségügyi szektor és a gyógyszeripar 44 cége összesen 149 veszélyhelyzetet azonosított, amelyek közül 19 közvetlenül befolyásolja a betegbiztonságot.

Az ipari szektor és a kritikus infrastruktúrák számos biztonsági kihívással néznek szembe, hiszen 38 különböző támadási vektor rejlik bennük. Ezzel szemben a kereskedelem és logisztika területén a célzott, mesterséges intelligencián alapuló marketing és raktározási rendszerek 28 olyan ellátási lánc zavarhoz vezethetnek, ami komoly következményekkel járhat. De nemcsak ezek az ágazatok érintettek; a védelmi ipar és a média is a kockázatok kereszttüzébe kerül. Például a honvédelem terén 8 különböző alkalommal számoltak be nemzetbiztonsági fenyegetésekről, amelyeket AI-rendszerek okoztak – ezek a fenyegetések pedig messze túlmutatnak a csupán vállalati szintű érdekeken.

"Az AI-integráció paradoxon: egyszerre hoz forradalmi hatékonyságnövekedést és rendszerszintű sérülékenységet" - mondta Martynas Vareikis, az elemzést végző Cybernews biztonsági kutatója. Véleménye szerint egyetlen kompromittált AI-modell akár összeomláshoz vezethet az energiahálózatokban, a pénzügyi piacokon vagy az egészségügyi ellátásban.

A vállalatok tehát nem csupán a technológiai újítások terén versenyeznek, hanem egyre inkább a kiberbiztonság terén is harcba szállnak. Ebben a versenyben a tét nem csupán a pénz, hanem a hírnév, az ügyfelek bizalma, sőt, bizonyos esetekben akár emberi életek is foroghatnak kockán.