„Senki nem áll készen az AI következményeire” – mondja az OpenAI tudósa
Váratlan helyről jött a figyelmeztetés: a ChatGPT-t fejlesztő OpenAI egyik tudósa írt arról, mennyire fontos, hogy az emberek a kezükben tartsák a technológia fejlődését.
A mesterséges intelligencia egy rendkívül vitatott technológiája: amellett, hogy vannak egyértelmű előnyei, számos aggodalom is fűződik hozzá. Korábban a mesterséges intelligencia keresztapjaként emlegetett, Nobel-díjas Geoffrey Hinton is felhívta a figyelmet az AI veszélyeire, és ha valaki, akkor ő ismeri a technológiát: 2023-ig épp ezen dolgozott a Google-nél.
Néhány napja az OpenAI egyik vezető tudósa hívta fel a figyelmet arra, hogy „senki nem áll készen az AI következményeire” – és nem kellett sokat várni a következő aggasztó megszólalásra sem.
Jacob Coxon, az Anthropic egyik vezető biztonsági kutatója úgy véli, a mesterséges intelligencia az évtized végére „megölheti az összes embert”.
A korábban az OpenAI-nál is dolgozó szakember egyébként felmondott az Anthropicnál, ahol az AI-rendszerek betanítása volt a feladata. Az X-en közzétett bejegyzésében Coxon azzal indokolja a távozását, hogy meglátása szerint az Anthropic nem veszi komolyan a biztonságot.
Az OpenAI és az Anthropic szerinte „az önfejlesztő szuperintelligencia fejlesztéséért verseng”, amivel „az életünkkel játszanak”. Teszik ezt annak ellenére, hogy azok, akik fejlesztik az AI-t, úgy vélik, az évtized végére mindenkit elpusztíthat – magyarázza Coxon.
Mint a The Verge kiemeli, az iparági szakértők régóta figyelmeztetnek az önfejlesztő mesterséges intelligenciák veszélyeire, amelyek ellenőrizhetetlen fejlesztési spirálba kerülhetnek, és már az ember sem tudja megállítani őket.
Utóbbi még nem történt meg, az AI-cégek célja viszont határozottan ez. Ráadásul az AI kódjának egy részét már ma is maga az AI írja.
Az igazi csavar a történetben az, hogy Jacob Coxon posztjára reagált Evan Hubinger, az Anthropic egyik AI-biztonsági csapatának vezetője is, aki kiemelte: maga is aggódik az önfejlesztő mesterséges intelligencia miatt. Úgy látja, ez „gyorsabban történik, mint gondoltuk”, és egyetértett Coxon felvetésével.
„Tényleg úgy gondoljuk, hogy az AI képes kiirtani az egész emberiséget” – mondja, hozzáfűzve, hogy meglátása szerint ennek valószínűsége nagyobb, mint tíz százalék.
Hubinger megjegyezte: az Anthropicnak egyelőre nincs terve arra, hogy a fejlett AI biztonságos maradjon, és összhangban álljon az emberi értékekkel.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
