Az alapvető értékek védelme állami és nem vállalati feladat – beszélgetés Darrel Westtel

2021-06-25 10:21:00

Sándor Lénárd
Kevesen bíznák magánvállalatokra, hogy alapvető döntéseket hozzanak a véleményszabadságot vagy az emberek biztonságát érintő kérdésekben. Ezek kormányzati feladatok – mutatott rá Darell West, az amerikai Brookings Institute elnökhelyettese, akivel Sándor Lénárd beszélgetett.
Darrell West a Brookings Institute elnökhelyettese, a kormányzati tanulmányok csoportjának igazgatója és az innovációs technológiai központ szenior kutatója. Korábban a Brown University politikatudomány professzora, és az egyetem keretei között működő Taubman Center for Public Policy igazgatója volt. A TechTank társ-főszerkesztője, jelenleg mesterséges intelligenciát, robotikát a munkavégzés jövőbeni feltételeit kutatja.

A digitális forradalom és a mesterséges intelligencia egyre jobban áthatja a 21. századi világot. Véleménye szerint a technológia hogy alakítja a jelenkori világunkat és társadalmainkat?

A fejlett technológia az oktatástól és az egészségügytől kezdve a szállításon, a kereskedelmen át egészen a védelmi kérdésekig bezárólag szinte valamennyi szektort átformál. Egyfelől megszabadítja az embereket az unalmas, koszos és veszélyes munkák terhétől javítva ezzel életminőségünket. Segíti a kommunikációt és lehetővé teszi az online szolgáltatásokat. Ugyanakkor

a technológia fejlődése aggodalomra is okot ad a magánszféra, a tisztességesség, az átláthatóság és a biztonság terén.

Az algoritmusokat hiányos adatokkal tanítják be, ami megkérdőjelezi döntéshozataluk méltányosságát. Biztosítanunk kell ezért, hogy a technológiai innováció tiszteletben tartja az alapvető emberi értékeket és inkluzív gazdaságot teremt. Jelenleg ugyanis sokan azért nem részesülnek például a digitális forradalom előnyeiben, mert nincs hozzáférésük szélessávú hálózathoz. Nem tudnak állásokra jelentkezni vagy online vásárolni, szolgáltatásokat igénybe venni, illetve élvezni a digitális innováció további előnyeit.

Nemrég megjelent Turning Point Policymaking in the Era of Artificial Intelligence című könyvében amellett érvel, hogy a mesterséges intelligencia transzformatív hatású. A transzformatív hatása mellett miért gondolja úgy, hogy a mesterséges intelligencia fordulóponthoz érkezett?

A mesterséges intelligencia azért transzformatív hatású, mert valós időben képes adatokat, szövegeket és képeket elemezni, az értékelés alapján pedig intelligens döntéseket hozni. A gépi tanulás adatelemzéssel ötvözve összetett környezetben is gyors döntéshozatalt tesz lehetővé, ami számos területen képes boldogulni. A mesterséges intelligencia ugyanakkor azért érkezett fordulóponthoz, mert képességei elérték azt a határt, amely utópia vagy éppen disztópia irányába húzhat bennünket. Valamennyi mesterséges intelligencia alkalmazás a természeténél kettős hatású: lehet jó vagy kártékony célra is használni.

Az arcfelismerő szoftverek például tömeges megfigyelés célját éppen úgy szolgálhatják, mint az elveszett gyermekek felkutatását.

Ezen tulajdonsága miatt pedig nehéz a szabályozásuk, ugyanis nagy kihívást jelent az általuk kínált előnyök megőrzése úgy, hogy közben kiküszöbölik a negatív jellemvonásokat.

Milyen lehetőségeket és veszélyeket rejt a mesterséges intelligencia, illetve az automatikus döntéshozatal felhasználása az üzleti életben?

Az automatikus döntéshozatal nagy előnyöket kínál a rutinszerű adatfeldolgozások során. A mesterséges intelligencia ezt a feldolgozást gyorsítja fel, és hoz döntéseket az elvégzett adatelemzések alapján. Az unalmas munkafolyamatok terhét leveszi az emberek válláról, az üzleti működés hatékonyságát pedig növeli. Ugyanakkor azzal, hogy a tranzakciók, és az üzleti működés egyre összetettebbé válik, nagyobb kihívást jelent olyan algoritmusokat építeni, amelyek méltányosan és tisztességesen látják el ezt a feladatot. Mindig

fennáll a veszélye annak, hogy a szoftver egy bonyolult feladat valamely fontos részét figyelmen kívül hagyja,

vagy olyan döntést hoz, amely nem tisztességes vagy nem biztonságos. Ezért fontos, hogy továbbra is az emberek maradhassanak a döntéshozók, és így az ő személyes ítélőképességük biztosíthassa, hogy az algoritmusok ésszerű módon működnek. A mesterséges intelligencia hatásait ezért időszakonként felül kell vizsgálni, és garantálni kell, hogy az alapvető etikai elveket tiszteletben tartja.

Az egyik lényeges különbség a jelenleg zajló digitális forradalom és a korábbi ipari forradalmak között, hogy a technológiai fejlődés ma már azt a kérdést veti fel, vajon hol húzódik a határ az emberi képességek javítása és helyettesítése között. Véleménye szerint hol húzható meg ez a határ az emberi képességek „javítása” és „kiváltása” között?

Rövidtávon a mesterséges intelligencia sokkal inkább növeli, nem pedig kiváltja az emberi teljesítményt.

Az algoritmusok nekünk segítenek, hogy jobb és hatékonyabb munkát végezzünk az adatelemzések terén. Ugyanakkor még nincs azon a fejlettségi szinten, hogy kiválthassa azt a mérlegelést és szelektálást, amelyet a legtöbb munkahely megkíván. És még messze vagyunk az általános algoritmikus intelligenciától, ugyanis a legtöbb algoritmus valamilyen speciális feladat elvégzésében jeleskedik, de nem képes egyik tevékenységről a másikra váltani.

Vannak persze kivételek. A pénzügyi szektorban a mesterséges intelligenciát a csalások kiszűrésére és a tőkekezelésre is használják. Kiderült, hogy

az algoritmusok racionálisabbak, kevésbé emocionálisak, mint az emberek,

és ez nagyon fontos tulajdonság a pénzkezelés során. Emellett megjelentek az első teljesen automatizált áruházak is, amelyek számítógépeken keresztül észlelik a vásárlást, és ennek megfelelően terhelik meg a hitelkártyát vagy a mobilfizetési eszközt. Végül pedig a mesterséges intelligencia meglehetős pontossággal olvassa a CT vagy röntgenfelvételeket, így arra komoly esély van, hogy a radiológusok munkáját előbb vagy utóbb kiváltja.

Véleménye szerint hol húzódnak az emberi képességek kiváltásának etikai vagy jogi határai?

Mint említettem, az algoritmusok szerintem még évtizedekre vannak attól, hogy emberi képességeket válthassanak ki. A jelenleg ismert algoritmusok a jellegüknél fogva zömében egyetlen célt szolgálnak abban az értelemben, hogy bizonyos meghatározott dolgokat rendkívül akkurátusan tudnak elvégezni, ugyanakkor

más jellegű feladatokra nem tudnak áttérni.

Például az önvezető autókat működtető mesterséges intelligencia nem tud azonnal áttérni áruházak működtetésére. Jelenleg így is jelentős erőfeszítésbe kerül egy meghatározott feladat ellátására kifejleszteni a mesterséges intelligenciát, nemhogy az emberi tevékenység széles spektrumára. Jó időbe fog telni, míg az emberek szembesülnek ezzel a veszéllyel, ami viszont időt ad a fejlett technológia etikai és jogi határainak kidolgozásához.

Mi a szerepe és kötelessége jelenleg az államoknak a szabályozás terén? Hogyan tudják a mesterséges intelligenciát és az automatizált döntéshozatalt szabályozni?

Az államok elkezdtek kockázathoz igazodó szabályozási rendszereket alkotni, amelyben a szabályozás az algoritmus hatóköréhez, valamint a tevékenységével érintettek számához igazodik. Vannak kisebb mesterséges intelligencia rendszerek, amelyek nem érintenek sok embert, és ezért nem is igényelnek jelentős szabályozást. Ugyanakkor vannak olyan mesterséges intelligencia rendszerek, amelyek méretükből fakadóan milliókat érinthetnek, és

jelentős veszélyt jelentenek az emberek biztonságára.

Ezeken a területeken olyan komoly ellenőrzés szükséges, amely képes garantálni, hogy a mesterséges intelligencia biztonságos és nem okoz kárt az embereknek. Kulcsjelentőségű az, hogy a szabályozás arányban álljon a mesterséges intelligencia alkalmazásából fakadó károkkal.

A különféle vállalati önszabályozások, a mesterséges intelligencia és az automatizált döntéshozatali rendszerek működése olyan alapvető alkotmányos értékeket is érint, mint például közösségi médiaszolgáltatást biztosító vállalatok esetében a véleménynyilvánítás szabályozása. Hogyan biztosítható, hogy a vállalatok működése összhangban álljon egy-egy állam alkotmányos értékeivel?

Úgy vélem, hogy a vállalati társadalmi felelősségvállalásokat erősebb állami szabályozás fogja felváltani, amely kijelöli a mesterséges intelligencia, és az automatikus döntéshozatal határait. Kevesen bíznák rá a magánvállalatokra, hogy alapvető döntéseket hozzanak véleményszabadság és az emberek biztonságát érintő kérdésekben. Ezek hagyományos kormányzati feladatok és képesnek kell legyünk olyan törvényeket és szabályokat alkotni, amelyek lefektetik a határokat. Sok más területen is ez történt, és úgy gondolom, hogy a digitalizáció terén is ennek lehetünk majd tanúi.

A szabályozás mindig is a technológiai fejlődés mögött kullog, de amikor az emberekben nő a felháborodás, akkor hamar utoléri.

Jelenleg annak a kezdeti szakaszát látjuk, amikor a szabályozás felzárkózik a technológiai fejlődés mögé.