Ha a stratégiát a ChatGPT írja, a felelősség akkor is a vezetőké.

Az Új-Dél-Walesben, a Lanmar Pty Ltd (No 2) ügyben született bírósági döntés legfontosabb tanulsága az, hogy a bíróság a döntéshozatali folyamatot helyezte a középpontba. A Lanmar Pty Ltd két igazgatója a ChatGPT segítségét kérte ahhoz, hogy tervet dolgozzanak ki egyik igazgatótársuk és részvényesük eltávolítására. Követték a modell által javasolt, „HR-problémák megoldására” szolgáló tervet. A bíróság a magatartásukat elnyomónak minősítette, és megállapította, hogy megsértették igazgatói kötelezettségeiket. Vagyonfelügyelőt jelölt ki a társaság részvényeinek nyílt piaci értékesítésére.

Könnyű lenne az ügyet a mesterséges intelligencia pontatlanságának újabb példájaként elkönyvelni. A fontosabb tanulság azonban az MI válaszára való támaszkodásban rejlik. A probléma nem csupán az volt, hogy a modell téves vagy hiányos jogi tanácsot adott. Az igazgatók rosszul fogalmazták meg a kérdést, majd úgy cselekedtek a kapott válasz alapján, hogy nem iktattak be önálló emberi mérlegelést az MI által előállított tartalom és a tényleges döntés közé. Az ügy jól szemlélteti, miért kell az igazgatóknak önállóan mérlegelniük az MI használatakor: a döntésért továbbra is azok felelnek, akik meghozzák, nem pedig az az eszköz, amely segített az előkészítésében.

A felelősség az MI válaszára való támaszkodásból fakad

Az ügy egy olyan kisvállalatot érintett, amelyben három fél egyenlő gazdasági érdekeltséggel rendelkezett, különálló, az érintett személyek által irányított társaságokon keresztül. Ez a tulajdonosi struktúra sok középvállalat számára is ismerős lehet: minden tulajdonos aktívan részt vesz a működésben, a külső jogi tanácsadás költségeit gondosan mérlegelik, egy vállalatirányítási kérdés pedig könnyen teljesítmény problémaként jelenik meg. A többségi igazgatók úgy kezelték igazgatótársukat és tulajdonostársukat, mintha csupán egy nem megfelelően teljesítő alkalmazott lenne. A bíróság ezzel szemben az ausztrál jog szerinti vállalatirányítási és elnyomó magatartással kapcsolatos kérdésként kezelte a vitát. A ChatGPT viszont munkajogi problémaként közelítette meg a helyzetet.

Az európai vagy közel-keleti szervezetek esetében a pontos jogi következmények eltérőek lehetnek. Az igazgatói kötelezettségek, a részvényesi jogorvoslati lehetőségek és a bírósági ítéletek joghatása jogrendszerenként változik. Az ausztrál döntést ezért vállalatirányítási figyelmeztetésként érdemes értelmezni, nem pedig olyan precedensként, amely automatikusan alkalmazható minden igazgatóságra. Ami a különböző jogrendszerekben is tanulságos, az a bíróság által vizsgált döntéshozatali folyamat. A kérdés nem pusztán az volt, hogy pontos-e a modell válasza. Azt kellett megvizsgálni, hogy felismerte-e valaki a döntés valódi természetét, ellenőrizte-e a tanácsot az alkalmazandó jogi keretek alapján, és vállalta-e a felelősséget a tanács és a tényleges intézkedés közötti lépésért.

Ezen a ponton válik az MI használata egyszerű hatékonysági kérdésből vállalatirányítási kérdéssé. Ha egy MI segítségével előkészített anyag úgy kerül az igazgatóság elé, hogy nem dokumentálják, ki ellenőrizte, mit kérdőjelezett meg benne, és min változtatott, az vállalatirányítási kockázatot teremt. A döntés meghozatalakor úgy tűnhet, hogy megfelelően alátámasztották, később azonban a szervezet nehezen tudja majd megmagyarázni, hogyan jutottak el hozzá, és ki vállalta érte a felelősséget.

Az igazgatóságok már most is csendben használják ezeket az eszközöket

Egy néhány száz vagy néhány ezer főt foglalkoztató vállalatnál a Lanmar-ügyben megfigyelhető helyzet sokkal közelebb állhat a mindennapokhoz, mint azt az eltérő jogrendszer alapján gondolnánk. Sok vállalatnál nincs házon belüli jogi szakértő. Egy vitás üggyel, átszervezéssel vagy beszállítói követeléssel kapcsolatos igazgatósági előterjesztést készítő munkatárs könnyen használhat MI-modellt az érvelés felépítéséhez. Előfordulhat, hogy erről nem tájékoztatja az igazgatóságot, mert senki sem kérdezett rá. A kérdés pedig gyakran csak akkor merül fel, amikor már megtörtént a baj.

A kockázat az igazgatósági üléseken túl is jelentkezik. Ha egy operatív vezető az MI-re támaszkodik egy beszállítónak szánt válasz vagy egy ügyféllel kötendő egyezség előkészítésekor, ugyanolyan jellegű kockázatot vállal, sokszor még kevesebb ellenőrzés mellett. A probléma minden olyan helyzetben felmerülhet, amikor egy modellt jogi vagy szabályozási következményekkel járó döntés előkészítésére használnak.

A legtöbb, MI használatára vonatkozó elfogadható használati szabályzat arra ad választ, hogy a munkatársak használhatják-e ezeket az eszközöket. Arról azonban nem feltétlenül rendelkezik, hogy milyen ellenőrzésnek kell alávetni az MI segítségével előkészített munkát, mielőtt az igazgatósági döntés alapjává válik; ki felel az ellenőrzésért, és hol kell annak megtörténtét dokumentálni. Ez elszámoltathatósági hiányosságot eredményez. A vezetői és igazgatósági kockázatokra összpontosító tanácsadási szolgáltatásaink során rendszeresen feltárjuk, hol történik már most is MI-vel támogatott döntés-előkészítés anélkül, hogy egyértelműen meghatározták volna a felelősségi és felülvizsgálati követelményeket.

Mit jelent a dokumentált emberi felülvizsgálat a gyakorlatban?

A dokumentált felülvizsgálat elsőre újabb adminisztratív tehernek tűnhet. Egy középvállalatnál azonban akár három mondat is elegendő lehet az érintett igazgatósági előterjesztésben: milyen feladatot kapott az MI, milyen választ adott, és az ellenőrzésért felelős személy mit vetett el vagy módosított a válaszból az ellenőrzést követően. Nem a dokumentáció hossza a lényeg, hanem az, hogy egyértelműen meg legyen nevezve az a személy, aki vállalja a felelősséget.

A jelentős következményekkel járó döntéseknél ezt a felelősséget olyan személynek kell viselnie, akinek a szerepköre eleve kiterjed az eredményért való felelősségre: például az érintett igazgatónak, az operatív vezetőnek vagy a kockázatkezelési vezetőnek, nem pedig egyszerűen annak a munkatársnak, aki az első változatot elkészítette.

Az ellenőrzést végző személynek ráadásul más kérdést is fel kell tennie, mint amire az MI válaszolt. A Lanmar-ügyben az eszköz úgy keretezte a helyzetet, mintha egy igazgatótárs és részvényes valójában alkalmazott lenne. Egy hozzáértő felülvizsgáló megkérdőjelezte volna, hogy a helyzetet elsősorban a részvényesi jogok és a vállalatirányítás, nem pedig a munkaviszony kezelése felől kell-e megközelíteni. Az ellenőrzés értéke kevésbé abban rejlik, hogy valaki minden hivatkozást egyenként ellenőriz, sokkal inkább abban, hogy felismeri a döntés valódi természetét, és azonosítja azt a lényeges kérdést, amelyet a modell figyelmen kívül hagyott.

Azoknak a szervezeteknek, amelyek ezt a folyamatot a szélesebb körű megfelelőségi kötelezettségeikbe is be szeretnék építeni, keretrendszerek kialakítására irányuló szolgáltatásaink lehetőséget adnak arra, hogy a felülvizsgálat a meglévő igazgatósági jelentéstételi és vállalatirányítási folyamatok részévé váljon, ne pedig egy különálló, a gyakorlatban könnyen figyelmen kívül hagyott MI-szabályzatban kapjon helyet.

Egy kérdés, amelynek a következő igazgatósági előterjesztésben is helye van

A Lanmar-ügyet egyesek talán az ausztrál társasági jog sajátos eseteként értelmezik majd, amelynek máshol korlátozott a jelentősége. A tartós tanulság azonban egyszerű. Az igazgatóságok egyre gyakrabban hoznak döntéseket olyan anyagok alapján, amelyeket MI segítségével készítettek el, és amelyek magabiztosan fogalmaznak, miközben nem feltétlenül arra a kérdésre válaszolnak, amellyel a vezetőségnek valójában foglalkoznia kellene.

Amikor legközelebb átszervezési terv, vitás ügyre adott válasz vagy jogi kitettséget összefoglaló dokumentum kerül az igazgatóság elé, egy kérdésnek már az elején helyet kell kapnia: Készült-e ennek az anyagnak bármely része mesterséges intelligencia segítségével, és ki igazolta, hogy a tartalmat érdemben felülvizsgálta?

Ezt a kérdést nem kerül sokba feltenni, mégis alapvetően megváltoztathatja a döntések előkészítésének módját. Azoknak a szervezeteknek, amelyek nem tudnak egyértelmű választ adni rá, előbb-utóbb egy bíróság, egy felügyeleti hatóság vagy a biztosító előtt kellhet megmagyarázniuk a döntéshozatali folyamataikat. Ilyen helyzetben már nem lesz elegendő annyit mondani, hogy a döntés egy mesterséges intelligencia által készített javaslaton alapult.