A mesterséges intelligencia etikai vonatkozásai az internetbiztonság világában

2020. január 14. - Fujitsu Hungary

ke_p_ai_ethical_implications.jpg

A Fujitsu kiemelt figyelmet fordít a mesterséges intelligencia (MI) alkalmazásának etikai kérdéseire. A Fujitsu Laboratories of Europe fontos szerepet játszik annak feltérképezésében, hogyan lehet az MI-t megfelelően használni az emberközpontú innováció szabadságának korlátozása nélkül.

A témával kapcsolatos párbeszéd ösztönzése érdekében nemrég részt vettünk egy megbízható MI-ről szervezett nemzetközi workshopon az Oxfordi Egyetemen működő Oxford Internet Institute Digital Ethics Lab (DELab) szervezetével együtt.

ke_p2_ai_ethical_implications.jpg

Az oxfordi St. Cross College által szervezett rendezvényen a tudományos világ, a szabályozói terület és a magánszektor neves szakértői azt a fontos kérdést járták körül, hogy lehetséges-e az internetbiztonság szempontjából megbízható MI-t fejleszteni.

Résztvevők:

  • Az Egyesült Királyság nemzeti internetbiztonsági központjának (UK National Cyber Security Centre) képviselői
  • Dr. Ioannis Agrafiotis (ENISA) – (hálózati információbiztonságért felelős IT-vezető)
  • Dr. Anna Jobin (Health Ethics and Policy Lab, ETH, Zurich)
  • Dr. Tsuneo Nakata (Fujitsu Laboratories)
  • Nathalie Smuha (a Leuveni Katolikus Egyetem Nemzetközi és Európai Jogi Tanszéke)
  • Dr. Mariarosaria Taddeo (Oxford Internet Institute, Oxfordi Egyetem)
  • Paul Timmers (European Policy Centre, Brüsszel) 

Az internetbiztonság kérdéseinek alapos vizsgálata érdekében a résztvevők valós életből példákat vettek sorra az MI-vel való visszaélésekre és a mesterséges intelligencia nem rendeltetésszerű használatára vonatkozóan. Foglalkoztak még az adatok és az eszközök megbízhatóságával, az internet „peremén” fellépő működési kockázattal, valamint az emberi felügyelet nélküli gép-gép (M2M) vezérlés veszélyeivel.

Az eszmecsere alapján született néhány egyértelmű állásfoglalás, elsősorban azzal kapcsolatban, milyen fontos etikai alapelvek mentén kellene haladni az MI kiberbiztonsági alkalmazásának szabványosítása és tanúsítása során.

A szakértői csapat egyetértett abban, hogy az MI átláthatósága, valamint a használatával, illetve a kapcsolódó visszaélésekkel kapcsolatos elszámoltathatóság fontos alapelvek, amelyeket szabványoknak kellene érvényesíteniük az MI internetbiztonsági gyakorlatban történő alkalmazása során.

A kérdéskört általánosságban megközelítve, a résztvevők egyetértettek az EU megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásával, és a jó szándék, a szándékos károkozástól való mentesség, az autonómia, az igazságosság és a megmagyarázhatóság Cowls & Floridi etikai keretrendszerben meghatározott alapelveivel.

A napirend központi témái között a bizalom is szerepelt. A panelbeszélgetés résztvevői egyetértettek abban, hogy a bizalom fontos szerepet játszik az MI elterjedésében, ám a „bizalomra épülő MI internetbiztonsági alkalmazása” terén már megoszlottak a nézetek.

Néhányan azzal érveltek, hogy az internetbiztonság terén nem indokolt bizalmat elvárni az MI alkalmazások irányában, inkább megfelelő ellenőrzőmechanizmusokra van szükség az internetbiztonsági feladatok MI-re delegálásakor. Ezeket a kérdéseket a vonatkozó szabványok és a tanúsítási eljárások kidolgozásakor is figyelembe kell venni.

A workshop főbb megállapításai

A workshopon folytatott beszélgetések három fontos dologra irányították rá a figyelmet.

  • Az MI-rendszerek robusztussága ugyanannyira függ a betáplált inputoktól és a bevezetés után a többi érintettel folytatott interakciótól, mint a rendszer megtervezésétől és betanításától. Ezért az ilyen rendszerek robusztussága nehezen előre jelezhető.
  • Az EU megbízható mesterséges intelligenciára vonatkozó etikai iránymutatása értékes általános elveket fogalmaz meg az MI megtervezéséhez és használatához, de finomítást igényel az MI internetbiztonsági célú alkalmazásának konkrét eseteivel és használati módjával kapcsolatban.
  • Az internetbiztonsági feladatokat ellátó MI-rendszerek robusztusságát biztosítani hivatott szabványok és tanúsítási eljárások csak akkor lehetnek eredményesek, ha figyelembe veszik az MI-rendszerek dinamikus és öntanuló természetét. Ki kell dolgozni a rendszerfigyelés és -ellenőrzés olyan formáit, amelyek a tervezéstől kezdve, a fejlesztés szakaszain keresztül, a teljes folyamatot lefedik.

A Fujitsu aktív segítséget nyújtott az Európai Bizottság mesterséges intelligenciával foglalkozó magas szintű független szakértői csoportjának a 2019 áprilisában kiadott megbízható mesterséges intelligenciára vonatkozó etikai iránymutatás kidolgozásához. Ez a dokumentum jelentősen befolyásolja az EU mesterséges intelligenciával kapcsolatos általános stratégiáját.

Összefoglalásképpen: egyértelmű, hogy az MI alkalmazása előnyöket ígér az internetbiztonság terén. A workshop munkája azonban megerősítette, hogy a mesterséges intelligencia etikus és megfelelő használatához komoly előkészítő munkára van szükség.

Kapcsolódó hírek

 

Fujitsu Magyarország

 

A bejegyzés trackback címe:

https://fujitsuhungary.blog.hu/api/trackback/id/tr315395986

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.