A 45 oldalas tanulmány, amelyet a tudományos, innovációs és technológiaügyi minisztérium megbízásából állított össze egy szakértői testület, a brit kormány által november elejére összehívott nemzetközi MI-biztonsági csúcstalálkozó vitairata.

A dolgozat szerzői által említett fő kockázatok között szerepel, hogy a mesterséges intelligencia alkalmazása megkönnyítheti a biológiai, a vegyi és a sugárszennyezést okozó fegyverek előállítását, illetve a kibertámadások végrehajtását.

[ Sikerült rávenni a mesterséges intelligenciát, hogy hozzon össze tömegirtásra alkalmas biológiai fegyvereket ]

A különböző MI-modellek ugyanis „személyre szabott” tudományos ismeretekkel láthatják el az egyes felhasználókat, útmutatást nyújthatnak az adott cél eléréséhez szükséges laboratóriumi munkához, és információval szolgálhatnak a biológiai és vegyi alapanyagok beszerzésének lehetséges módozatairól is.

Az MI-rendszerek használatával a fenyegetést jelentő felhasználók mindemellett időt is megtakaríthatnak. A mesterséges intelligencia például máris elősegítette olyan számítógépes vírusok előállítását, amelyek az észlelés megnehezítése végett időről időre módosulnak. Az ilyen vírusok előállítása korábban meglehetősen hosszú időbe telt, ám egyes hackercsoportok fórumainak használói máris arról számolnak be, hogy a ChatGPT és más hasonló eszközök használatával lehetővé vált számukra a kártékony szoftverek gyors előállítása számos különböző programnyelven.

Dimenziót ugrottak a bűnözők a neten, ijesztően lejjebb került a léc

A mesterséges intelligenciával hatékony eszköz került a hackerek kezébe, már egy átlagos tudással rendelkező felhasználó is képes rosszindulatú programok megírására. Az MI ugyanakkor a védekezőket is segíti, így új dimenzióba került a kiberbűnözés és az ellene folytatott harc.

A tanulmány szerzői szerint az emberi tényezőket kihasználó, pszichológiai manipulációt alkalmazó, úgynevezett social engineering-típusú módszer a mesterséges intelligenciával megerősítve már most szerepel a kiberbűnözők rendszeresen használt eszköztárában. Ez a kombinált eszköz képes például olyan emberek hangjának tökéletes utánzására, akikben a kiszemelt célszemély megbízik.

Rishi Sunak brit miniszterelnök a brit tudományos akadémia szerepét betöltő Royal Society csütörtöki rendezvényén felszólalva kijelentette: a brit hírszerzés helyzetértékelését is felhasználó kormányjelentést erőteljes figyelmeztetésnek kell tekinteni, ugyanis a terrorszervezetek a mesterséges intelligencia használatával az eddigieknél is súlyosabb pusztítást tudnak okozni.

A brit kormányfő idézte azt a közös nyilatkozatot is, amelyet nemrégiben több száz vezető MI-szakértő tett közzé. A felhívás aláírói szerint globális szinten kell elsődleges fontosságú feladattá tenni annak megakadályozását, hogy a mesterséges intelligencia az emberiség pusztulását okozza. Ezt a kockázatot a kutatók szerint ugyanúgy kell kezelni, mint a világjárványok vagy a nukleáris háború veszélyét.

Nukleáris opció jöhet a mesterséges intelligencia szabályozásában, csak senki nem tudja, hogyan kellene csinálni

Úgy tűnik, a mesterséges intelligencia kordában tartása meghaladja létrehozóinak erejét. A szakma egy része állami ellenőrzést kezd sürgetni. Példaként felvetődött a nukleáris energia szabályozása.

A brit miniszterelnök kijelentette: a legvalószínűtlenebb, szélsőséges forgatókönyvek megvalósulása esetén az a kockázat is felmerülhet, hogy az emberiség teljesen elveszíti az ellenőrzést a mesterséges intelligencia felett.

Rishi Sunak szerint a brit kormány mindezekre tekintettel hívta össze a jövő hétre a világ első globális MI-biztonsági csúcstalálkozóját, amelyre Kínát is meghívta. „Tudom, hogy többek szerint Kínát ki kellett volna zárni, de nem létezhet komoly MI-stratégia anélkül, hogy legalább megpróbálnánk bevonni a világ összes vezető MI-hatalmát” – fogalmazott beszédében a brit kormányfő.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.