„Senki nem áll készen az AI következményeire” – mondja az OpenAI tudósa
Váratlan helyről jött a figyelmeztetés: a ChatGPT-t fejlesztő OpenAI egyik tudósa írt arról, mennyire fontos, hogy az emberek a kezükben tartsák a technológia fejlődését.
Több olyan felhasználói fiókot is felfüggesztett az Anthropic, amelyek olyan feladatok elvégzésére használták a cég mesterségesintelligencia-modelljeit, amelynek eredményeként biológiai fegyvert lehetett volna kifejleszteni – közölte a vállalat. Az Anthropic megjegyezte: a a biológiai célú visszaélést tekinti az AI-modellekkel kapcsolatos egyik „legsúlyosabb kockázatnak”.
A jelentés öt olyan esetet mutat be, amelyek során a felhasználók megkerülték azokat a korlátozó intézkedéseket, amelyek blokkolják a bizonyos régiókból való hozzáférést, valamint más módszereket is alkalmaztak arra, hogy az AI-használat valódi célját titkolják. A példák között úgynevezett „gain of function” (funkciónövelő) munkák is szerepelnek. Az ilyen típusú laboratóriumi munka célja, hogy bizonyos kórokozókat olyan képességekkel ruházzanak fel, amelyek eddig nem voltak rájuk jellemzők.
Ilyen kutatást végeztek például a madárinfluenzával kapcsolatban, de más mérgek és toxinok esetében is hasonló megoldást lehetett megfigyelni.
Az Anthropic egy 30 napos időszakot vizsgálva mintegy 35 olyan kutatási tevékenységet azonosított, amelyek aggodalomra adhatnak okot. A cég ugyanakkor hangsúlyozza: azt nem lehet minden kétséget kizáróan kijelenteni, hogy az érintettek rossz szándékkal végezték-e el a vizsgálatokat, vagy a munkájuk jogszerűen tudományos célt szolgált.
Ami biztos: az esettanulmányokban említett kutatók aktív kutatók, a cég azonban nem nevezte meg sem az országot, sem a kutatóintézetet, ahol az AI-t használták.
Az egyik esetben a kutatók arra használták a mesterséges intelligenciát, hogy egy olyan pályázatot írjanak meg, amelynek elnyerésével pénzt kaphattak volna a chikungunya-vírussal kapcsolatos funkciónövelő kutatások elvégzésére.
Egy másik esetben a madárinfluenzával kapcsolatos kutatásokra használták a vállalat Claude modelljét, de zajlott kutatási munka az orthopoxvírus nemzetségébe tartozó vírusokkal – például az mpox vírussal vagy a fekete himlőt okozó vírus –, valamint más mérgekkel és kórokozókkal is.
A most közölt esetek jól mutatják, a mesterséges intelligencia mennyire kétélű fegyver. Egyfelől hatalmas segítség lehet a gyógyszerfejlesztésben, ha a segítségével sikerül alaposabban megismerni a vírusok és kórokozók működési mechanizmusát, ugyanakkor épp ez ad lehetőséget a biológiai fegyverek esetleges kifejlesztésére is.
Az Anthropic szerint a mostani védelmi intézkedések ugyan működnek, de ha a támadások kifinomultabbak lesznek, akkor szigorúbb védelmi szabályozásra lesz szükség.
Az biztos, hogy a mostani eset is alátámasztja a kutatók azon aggodalmát, hogy a mesterséges intelligencia ártalmas lehet az emberiség számára, a technológia pedig túl gyorsan fejlődik.
Jacob Coxon, az Anthropic volt munkatársa a CNN-nek úgy nyilatkozott: ha a jövőbe vetítjük ezeknek az AI-rendszereknek a képességeit, akkor könnyen belátható, hogy ezek hatalmas pusztítást is okozhatnak.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
