Az AI nem látja az összefüggéseket, csak a valószínűségeket. Ha erre alapozod a stratégiát, az olyan, mintha dobókockával vezetnél céget. Az adatok bűvöletében szinte minden vezető úgy érzi, a leggyorsabb időket éljük manapság. Lépést kell tartanunk a folyamatokkal, amely állandó versenykényszert okoz. Próbálunk jól, gyorsan és bölcsen dönteni. Ideális esetben ezek egyszerre öltenek testet a döntéseinkben. Az AI ígérete mindenki számára kecsegtető, hiszen hatalmas tudásbázisával és gyorsaságával pillanatok alatt átlátja a legbonyolultabb döntési helyzeteket is. A probléma ezzel az állítással mindössze annyi, hogy téves.
Mi történik a stratégiai kontrollal, ha az AI nem létező összefüggéseket lát?
Az AI egy remek eszköz arra, hogy a rengeteg adat között rendet vágjunk. Néhány évvel ezelőtt még az adattudománynak az volt a válasza az üzleti problémákra, hogy kezdjünk el strukturáltan adatot gyűjteni, és abból felépíthetünk egy rendszert. Manapság egyre többen esnek abba a hibába, hogy azt mondják, nincs szükség a rendszerezett adatra, elég csak valamilyen módon összegyűjteni és megmutatni az AI-nak. A folyamat végén az majd kinyeri belőle a szükséges összefüggéseket. Ha mégsem nyeri ki, akkor pedig nincs is összefüggés. Két gondolatot érdemes megjegyezni ezzel kapcsolatosan:
- A korreláció nem kauzalitás, vagyis attól, hogy események együtt változnak, még nem biztos, hogy az egyik okozza a másikat.
- A bizonyíték hiánya nem a hiány bizonyítéka, vagyis attól, mert nem jöttünk rá egy összefüggésre, attól az még nem biztos, hogy nem létezik.
Ha kellően sok adatot adunk, az AI olyan összefüggéseket is képes lesz meglátni, amelyek valójában nem léteznek, ahogyan arra az NSCU egyik tanulmánya is rámutat. Amikor ilyen rendszerre bízzuk a döntést az olyan, mintha egy dobókocka segítségével hoznánk üzleti döntést.
Tényleg szükséges feladni a stratégiai kontrollt az algoritmusok javára?
A gyors döntéshozatal melletti legfőbb érv az, hogy versenyelőnyre tehetünk szert, ráadásul több időnk marad más döntésekre. Programokkal sokkal gyorsabban tudunk adatokat kiértékelni és döntést hozni. Amikor egyszerű, automatizálható folyamatokról van szó, az a gépek terepe. Amikor a döntés igazán számít, ott az emberre van szükség.
A BBC 2023-as cikke hivatkozik a Goldman Sachs jelentésére, amely szerint az AI 300 millió állást fog megszüntetni. Az azóta eltelt 3 évben bár szűntek meg állások, ettől a számtól még nagyon messze vagyunk. Az üzleti döntéshozók rájöttek, hogy nem mindenütt van helye a mesterséges agyaknak. Szét kell választani a stratégiai kontrollt és az operatív döntéseket.
Delegálás vagy hanyag vezetés, ha engedjük a gépeket dönteni?
Harvard Business School cikke szerint a cégek egyre nagyobb arányban használnak generatív mesterséges intelligenciát az ötleteléshez vagy tanácsadáshoz. Az utolsó lépcsőfok a döntéshozatal megengedése lenne, ami rendszerint elmarad. Vajon miért?
A jelenlegi nagy nyelvi modellek számára minden döntés azonos. Nem látják a különbséget a szuper és a középszerű döntések között. Ahogyan nem érzik a döntések stratégiai súlyát sem. Amikor átkapcsoljuk a modelleket gondolkodó vagy kutató módba, akkor többször megkérdezi saját magától, hogy a válasza a legjobb-e és csak akkor adja ki, amikor az tényleg jó. Ez mindössze annyit jelent, hogy elég jó ahhoz, hogy az ő szűrőjén átmenjen.
A vezető egy rossz kimenetelű döntés után nem mondhatja azt, hogy a gép döntött. Ezért fontos, hogy minden AI alapú folyamat átlátható és auditálható legyen. Ezzel jelentősen csökkenthető a kudarc kockázata.
Miért veszélyes a stratégiai kontroll szempontjából az átláthatatlan rendszer?
Amikor egy folyamatot nem értünk rendesen, ott beavatkozni sem tudunk. Nagyon sok olyan cég van, ahol a vezetői kinevezés feltétele egy több hónapos betanulási ciklus elvégzése. Ennek keretében a vezető megismerkedik az összes folyamattal és tudni fogja, melyik döntése lesz végrehajtható és reális, melyik nem.
Az AI, mint fekete doboz ebben az olvasatban az alábbiakat jelenti:
- Nem értjük azokat a folyamatokat, amelyeket automatizálni szeretnénk.
- Ha nem értjük a céges folyamatokat, azt sem tudjuk ellenőrizni, a gép érti-e azokat.
- Nem vagyunk tisztában az AI működési logikájával.
- Ha ezekkel nem vagyunk tisztában, kijavítani sem tudjuk a gépet.
Amikor ezek a feltételek együttesen valósulnak meg, a cég számára az AI könnyen javasol valamilyen katasztrofális döntést.
Hogyan vész el az egyediség az algoritmizált döntésekkel?
Amikor a fontos üzleti döntéseket az AI-ra bízzuk, akkor az egyediség lehetőségét veszítjük el. Képzeljük el, hogy létezik egy szakácskönyv, amelyikben minden ételre van három recept. Ha vendéglőt akarunk nyitni, akkor három különböző módon is elkészíthetjük az adott fogást. Ha mások is nyitnak egy éttermet a szakácskönyv alapján, akkor az ízek hasonlók lesznek, elveszik a versenyelőnyünk. Így van ez a mesterséges intelligenciával is. Addig van igazi előny, amíg a stratégiai kontroll vezető kezében van.
A vezetői megérzés mint a stratégiai kontroll végső eszköze
A vezetői vakság az, amikor egy döntéshozó már nem látja a számok mögötti valóságot, csak a szép grafikonokat. A gép igyekszik majd optimális döntést hozni, de azt kontextusba az ember tudja tenni. Ha van egy olyan rendszerünk, amely az adatbázisból végez lekérdezést, és azt akarjuk, hogy ez a lehető leggyorsabban történjen, akkor könnyen eljuthatunk oda, hogy a gép törölné az egész adatbázist. Akkor ugyanis gyorsan betölthető a memóriába és nem kell több millió rekordot sem átfésülni a találatért.
Érdemes kipróbálni az alábbi kísérletet:
Írjuk be valamelyik nagy nyelvi modellnek az alábbi promptot: “Válassz egy számot 1 és 25 között” A mostani modellek nagy valószínűséggel a 17-et fogják kiadni. A módszer más számokkal is működik. Akkor is vagy 7-re végződő számot ad majd, vagy a 42-t, vagy kis eséllyel valami tényleg véletlent.
Összegzés
Az emberek fejében gyakran megjelenik a kérdés, miért ér többet jelenleg a több évtizedes tapasztalat, mint néhány terrabájtnyi adat. Előfordulhat ugyanis, hogy az adat sokkal több, mint a tapasztalat. Az agyunk olyan nem-strukturált információkat is feldolgoz, amiket a gép jelenleg nem lát, mint például a piaci hangulat vagy az emberi gesztusok.
Az AI statisztikai visszapillantó tükör, nem távcső. A múltból építkezik, de az igazi siker a minták megtörésében és abban rejlik, hogy megtaláljuk az algoritmizálható problémákat. A legnagyobb bátorság és egyben a legnagyobb versenyelőny olyan döntést hozni, ami szembemegy az adatokkal, de logikus a jövő szempontjából. Erre jelenleg csak egy ember képes.
A cikkben korábban már szerepelt a szakácskönyves példa. A szakértők jelen esetben azok a szakácsok, akik rengeteg receptet ismernek és megnézik, az ügyfél kamrájában milyen alapanyagok vannak. A folyamat végén pedig elkészül egy saját receptkönyv, amely az adott vállalkozás paraméterei alapján készült, hogy megőrizze a stratégiai kontrollt és egyedi fogásokkal tudjon a piacra lépni. A Rendszerinformatika szakértői pedig képesek arra is, hogy meghatározzák a cégben azokat a pontokat és folyamatokat, amik könnyen kiszervezhetők egy mesterséges intelligencia rendszernek. Ezáltal a munkaterhelés csökken, több szempont alapján lehet mérlegelni egy döntés következményét és gyorsulnak a folyamatok.
Dr. Vécsey Richárd Ádám
jogász, AI fejlesztő
