A mesterséges intelligencia képes meghatározott ideológiai szempontok szerint működni

2019. május 3. 10:00

A Matthias Spielkamp és Nicolas Kayser-Bril szerzőpáros a mesterséges intelligencia munkajogra kifejtett hatását vizsgálja „Resist the robot takeover” című publikációban. Megállapítják, hogy a nyugati vállalatok már évek óta alkalmazzák a mesterséges intelligenciát munkavállalók értékelésére, ami közvetlen hatást fejt ki az alkalmazottak karrierjére és munkaviszonyára. A cikk írói szerint azonban a vonatkozó jogi környezet óriási lemaradásban van.

Matthias Spielkamp, az AlgorithmWatch non-profit szervezet elnöke és Nicolas Kayser-Bril, a Journalism++ start-up alapítója szerint a mai globalizált világban megfelelő jogi környezet hiányában kérdéses a munkavállalói jogok maradéktalan érvényesülése. A cikk írói úgy látják, hogy az objektívnak kikiáltott, de valójában legkevésbé sem átlátható szabályok mentén felépített algoritmusok könnyedén az elemzés szempontjává tehetik a megrendelő vállalat világnézeti és politikai preferenciáit is.

A nyugati vállalatok már évek óta mesterséges intelligenciával elemzik munkavállalóikat

A különböző európai és amerikai nagyvállalatok működésük során egyre szélesebb körben támaszkodnak a mesterséges intelligenciára. Mind ez idáig a fogyasztói oldalon, a termékek egyre hatékonyabb pozícionálása érdekében vetették be az ezen alapuló rendszereket – fogalmaz a szerzőpáros. Az utóbbi években azonban már a munkavállalók értékelésére is aktívan alkalmazzák. Egy finn cég olyan technológiát fejlesztett ki, amely a munkavállalók elektronikus levelezésének tartalmát elemzi, és ennek megfelelően értékeli a megbízó cégek alkalmazottait. Saját bevallásuk szerint már több ezer munkavállaló adatait dolgozták fel így. Az amerikai Berkeley Egyetem kutatói pedig egy olyan, a fentihez hasonló cég adatait elemezték, amely már 2009 óta végzi a megrendelő vállalatok munkavállalóinak értékelését mesterséges intelligencia segítségével. A Berkeley kutatása szerint az algoritmus értékelése közvetlen és komoly hatással volt a vizsgált munkavállalók karrierjére és elhelyezkedési esélyeikre.

A munkavállalókat politikai nézeteik miatt is negatívan értékelheti egy algoritmus

Az ilyen rendszerek legnagyobb hibája a demokratikus deficit. Spielkamp és Kayser-Bril szerint a munkavállalókat megillető jogok hosszú történelmi fejlődés eredményeként rögzültek. A területet érintő kodifikáció szervesen fejlődött, az alapelveket pedig egyetemesen elismerik a nyugati világban. Mindeközben azonban a munkavállalók sorsáról döntő algoritmusok esetében a szabályozás rendkívül gyenge és hiányos. A cikk írói rávilágítanak, hogy jelenleg nincs olyan átfogó szabályozás, amely megteremtené a normatív kapcsolatot a munkavállalói jogok és a mesterséges intelligencia alkalmazása között. Az ilyen mesterséges intelligenciákon alapuló rendszereket felépítő vállalatok pedig maguk sem tudják teljes biztonsággal meghatározni, hogy a magától tanuló rendszerek a jövőbeni fejlődésük során milyen egyéb szempontokat vesznek majd figyelembe. Megfelelő szabályozás hiányában így könnyen előfordulhat, hogy negatív értékelést kap egy munkavállaló a vallása, vagy akár a politikai meggyőződése miatt.  A szerzők figyelmeztetnek, hogy az algoritmusok fejlődési üteme kiszámíthatatlan, illetve az egyébként elfogulatlannak kikiáltott algoritmusokat is könnyen a megrendelő vállalat ízlésére lehet hangolni. Vagyis a mesterséges intelligencia az adott cég által megfelelőnek tartott világnézeti vagy politikai irányvonalak mentén is képes vizsgálni a munkavállalókat.

A bejegyzés trackback címe: https://precedens.mandiner.hu/trackback/141336

Ajánljuk még a témában