A Fujitsu kiemelt figyelmet fordít a mesterséges intelligencia (MI) alkalmazásának etikai kérdéseire. A Fujitsu Laboratories of Europe fontos szerepet játszik annak feltérképezésében, hogyan lehet az MI-t megfelelően használni az emberközpontú innováció szabadságának korlátozása nélkül.
A témával kapcsolatos párbeszéd ösztönzése érdekében nemrég részt vettünk egy megbízható MI-ről szervezett nemzetközi workshopon az Oxfordi Egyetemen működő Oxford Internet Institute Digital Ethics Lab (DELab) szervezetével együtt.
Az oxfordi St. Cross College által szervezett rendezvényen a tudományos világ, a szabályozói terület és a magánszektor neves szakértői azt a fontos kérdést járták körül, hogy lehetséges-e az internetbiztonság szempontjából megbízható MI-t fejleszteni.
Résztvevők:
- Az Egyesült Királyság nemzeti internetbiztonsági központjának (UK National Cyber Security Centre) képviselői
- Dr. Ioannis Agrafiotis (ENISA) – (hálózati információbiztonságért felelős IT-vezető)
- Dr. Anna Jobin (Health Ethics and Policy Lab, ETH, Zurich)
- Dr. Tsuneo Nakata (Fujitsu Laboratories)
- Nathalie Smuha (a Leuveni Katolikus Egyetem Nemzetközi és Európai Jogi Tanszéke)
- Dr. Mariarosaria Taddeo (Oxford Internet Institute, Oxfordi Egyetem)
- Paul Timmers (European Policy Centre, Brüsszel)
Az internetbiztonság kérdéseinek alapos vizsgálata érdekében a résztvevők valós életből példákat vettek sorra az MI-vel való visszaélésekre és a mesterséges intelligencia nem rendeltetésszerű használatára vonatkozóan. Foglalkoztak még az adatok és az eszközök megbízhatóságával, az internet „peremén” fellépő működési kockázattal, valamint az emberi felügyelet nélküli gép-gép (M2M) vezérlés veszélyeivel.
Az eszmecsere alapján született néhány egyértelmű állásfoglalás, elsősorban azzal kapcsolatban, milyen fontos etikai alapelvek mentén kellene haladni az MI kiberbiztonsági alkalmazásának szabványosítása és tanúsítása során.
A szakértői csapat egyetértett abban, hogy az MI átláthatósága, valamint a használatával, illetve a kapcsolódó visszaélésekkel kapcsolatos elszámoltathatóság fontos alapelvek, amelyeket szabványoknak kellene érvényesíteniük az MI internetbiztonsági gyakorlatban történő alkalmazása során.
A kérdéskört általánosságban megközelítve, a résztvevők egyetértettek az EU megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásával, és a jó szándék, a szándékos károkozástól való mentesség, az autonómia, az igazságosság és a megmagyarázhatóság Cowls & Floridi etikai keretrendszerben meghatározott alapelveivel.
A napirend központi témái között a bizalom is szerepelt. A panelbeszélgetés résztvevői egyetértettek abban, hogy a bizalom fontos szerepet játszik az MI elterjedésében, ám a „bizalomra épülő MI internetbiztonsági alkalmazása” terén már megoszlottak a nézetek.
Néhányan azzal érveltek, hogy az internetbiztonság terén nem indokolt bizalmat elvárni az MI alkalmazások irányában, inkább megfelelő ellenőrzőmechanizmusokra van szükség az internetbiztonsági feladatok MI-re delegálásakor. Ezeket a kérdéseket a vonatkozó szabványok és a tanúsítási eljárások kidolgozásakor is figyelembe kell venni.
A workshop főbb megállapításai
A workshopon folytatott beszélgetések három fontos dologra irányították rá a figyelmet.
- Az MI-rendszerek robusztussága ugyanannyira függ a betáplált inputoktól és a bevezetés után a többi érintettel folytatott interakciótól, mint a rendszer megtervezésétől és betanításától. Ezért az ilyen rendszerek robusztussága nehezen előre jelezhető.
- Az EU megbízható mesterséges intelligenciára vonatkozó etikai iránymutatása értékes általános elveket fogalmaz meg az MI megtervezéséhez és használatához, de finomítást igényel az MI internetbiztonsági célú alkalmazásának konkrét eseteivel és használati módjával kapcsolatban.
- Az internetbiztonsági feladatokat ellátó MI-rendszerek robusztusságát biztosítani hivatott szabványok és tanúsítási eljárások csak akkor lehetnek eredményesek, ha figyelembe veszik az MI-rendszerek dinamikus és öntanuló természetét. Ki kell dolgozni a rendszerfigyelés és -ellenőrzés olyan formáit, amelyek a tervezéstől kezdve, a fejlesztés szakaszain keresztül, a teljes folyamatot lefedik.
A Fujitsu aktív segítséget nyújtott az Európai Bizottság mesterséges intelligenciával foglalkozó magas szintű független szakértői csoportjának a 2019 áprilisában kiadott megbízható mesterséges intelligenciára vonatkozó etikai iránymutatás kidolgozásához. Ez a dokumentum jelentősen befolyásolja az EU mesterséges intelligenciával kapcsolatos általános stratégiáját.
Összefoglalásképpen: egyértelmű, hogy az MI alkalmazása előnyöket ígér az internetbiztonság terén. A workshop munkája azonban megerősítette, hogy a mesterséges intelligencia etikus és megfelelő használatához komoly előkészítő munkára van szükség.
Kapcsolódó hírek
- Fujitsu blog: Az MI szép új világa – etika az innováció hátterében – 2019. június 20.
- A Fujitsu sajtóközleménye: A Fujitsu kidolgozta a „Fujitsu Csoport MI-vállalását”, demonstrálva ezzel elkötelezettségét az MI biztonságos használata iránt – 2019. március 13.
Fujitsu Magyarország
