A második alkalommal kiadott Data and AI Impact Report: The New Economics of Trust című jelentés szerint a szervezetirányítás, adatminőség és ellenőrizhetőség területén a legszigorúbb gyakorlatot követő – egyelőre szűk – vállalati kör rendre jobban teljesít versenytársainál: MI-fejlesztéseik legalább kétszer akkora megtérülést hoznak. A megbízható MI terén lemaradó szervezeteknek kevesebb mint öt százaléka mondhatta el ugyanezt.
„Amikor az MI jól működik, hihetetlen hatást tud elérni. Ugyanakkor jól dokumentált tény, hogy a legfejlettebb MI-ügynökök hibaaránya összetett feladatoknál meghaladhatja a 25 százalékot – ez pedig elfogadhatatlan ott, ahol nagy a tét. A pontossághoz és a megbízható ismételhetőséghez a vállalatoknak be kell építeniük a szakterületi tudást az ügynöki munkafolyamatokba, az irányítást és a felügyeletet pedig továbbra is embereknek kell kézben tartaniuk. Akiknek ez sikerül, azok áthidalják a bizalmi szakadékot, és versenyelőnyre tesznek szert az MI-vel.”
– mondta el Bryan Harris, a SAS technológiai igazgatója. –
„Ahogy az MI egyre önállóbbá válik, a vállalatok új kihívással szembesülnek: olyan rendszerekben kell megbízniuk, amelyeket az emberek nem értenek teljesen”
– tette hozzá Chris Marshall, az IDC alelnöke.
„Eredményeink azt mutatják, hogy az erősebb felügyelet, a magyarázhatóság, az elszámoltathatóság és a szilárd adatalapok egyre inkább előfeltételei annak, hogy az MI-t sikeresen lehessen nagy léptékben bevezetni.”
A kutatók azt tapasztalták, hogy sok szervezetnél a dolgozók egyre kevésbé hagyatkoznak olyan rendszerekre, amelyekről nem tudni, helyes eredményt adnak-e, és amelyek nem tudják elmagyarázni, hogyan jutottak egy döntésre. Minél önállóbb az MI, annál nagyobb ez a kockázat – a magyarázhatóság ezért a siker egyik kulcsa.
A jelentés az MI bevezetésének egyik legnagyobb akadályát is megvizsgálta: azt, amikor a dolgozók nem bíznak az MI döntéseiben, ezért felülbírálják őket, és kézzel javítanak rajtuk. Ez tovább mélyíti a bizalmi hiányt, és időbe, termelékenységbe és pénzbe kerül a vállalatoknak. Mivel az MI döntései csak annyira jók, mint az adatok, amelyekre épülnek, a felülbírálások visszaszorításához először is szilárd adatalapokat kell felépíteni.
A jelentés szerint egyre szélesebb a megtérülési szakadék azok között a vállalatok között, amelyek kiemelten kezelik a megbízható MI elveit, és azok között, amelyek nem. Az eredmények arra utalnak, hogy a legtöbb értéket nem azok hozzák ki az MI-ből, akik más technológiát használnak, hanem azok, akik másképp menedzselik azt.
A legtöbb szervezet rendkívül fejletlen vagy súlyosan elavult adatokra és adatinfrastruktúrára építi az MI-t. Szilárd adatalap nélkül azonban nincs átláthatóság és magyarázhatóság sem, így a vállalatok nehezen tudják hatékonyan menedzselni az MI-t, és nehezen aknáznak ki belőle valódi értéket.
Az eredmények 2699 döntéshozó megkérdezésén alapulnak, akik rálátnak vállalatuk adat- és MI-kezdeményezéseire, vagy befolyással bírnak rájuk. A felmérés 28 országban, négy kiemelt ágazatban készült: a bankszektorban, a biztosításban, az élettudományok területén és a közszférában. A jelentés iparági példákon keresztül mutatja be, hogyan viszonyulnak az MI-hez az egyes ágazatok élenjáró vállalatai világszerte.
A kutatás részletes eredményei és a teljes jelentés itt érhető el.
Mitől megbízható az MI?
A megbízható MI olyan mesterséges intelligencia, amelyet úgy terveztek, hogy megbízhatóan, etikusan és biztonságosan működjön, megfeleljen a szabályozási előírásoknak, és világosan meg tudja mutatni, hogyan jutott egy döntésre. A szervezet minden szintjén a felhasználóknak és a döntéshozóknak – előre rögzített felelősségi lánc mentén – számon kell tudniuk kérni az MI-rendszert a hibás vagy hiányzó eredményekért. Emellett minden MI-rendszert alá kell vetni a szervezetirányítási (governance) elveknek, és bizonyíthatóan meg kell felelnie egyértelmű szabályoknak.
A kutatásban a szervezeteket a megbízható MI öt dimenziója mentén, 100 pontos skálán értékelték. A jelentés azokat tekinti élenjárónak, amelyek átlagosan legalább 80 pontot értek el.
Fotó: Napelempark az SAS központjánál, Cary, Észak-Karolina / SAS
