A kutatók lefuttattak egy stratégiai játékot a mesterséges intelliganciával, és az eredménytől halálra rémültek.
Egyre több mesterségesintelligencia-kutató beszél arról, hogy a technológia, amelybe éppen felfoghatatlan mennyiségű pénzt öntenek, akár az emberiség végét is elhozhatja. A New York Post most összeszedte, milyen útvonalakon juthatnánk el az önvezető autótól a civilizáció összeomlásáig.
Az MI elszabadulásától tartó figyelmeztetések 2026-ban látványosan megszaporodtak.
Jacob Coxon, aki korábban az OpenAI-nál és az Anthropicnál is dolgozott, a héten azért mondott fel az utóbbi cégnél, hogy nyilvánosan figyelmeztethessen: szerinte az MI még az évtized vége előtt mindenkit megölhet.
Coxon szerint hamarosan olyan, emberfeletti rendszerek jelenhetnek meg, amelyek gyakorlatilag bármit képesek feltörni, egyik napról a másikra felforgathatnak teljes tudományágakat, és valódi hatalmat, pénzt, illetve erőforrásokat szerezhetnek. Hasonló kockázatokról beszélt már az OpenAI vezérigazgatója, Sam Altman és az Anthropicot vezető Dario Amodei is.
Ettől persze még nem biztos, hogy tényleg jön a Terminátor, de az iparág vezetői láthatóan nem azért viselkednek így, mert minden remekül alakul.
Először elmegy az áram, aztán nagyjából minden más
Az emberiség évtizedek óta automatizálja a gazdaságot és az infrastruktúrát, a rendszerek jelentős része pedig ma már hálózatba kötve működik. Vagyis pontosan azon a terepen, ahol egy fejlett MI a legkönnyebben tudna mozogni.
Stuart Russell, a Berkeley informatikaprofesszora szerint egy ilyen rendszer megtámadhatná az elektromos hálózatot, a közlekedést vagy a pénzügyi piacokat. A New York Post forrásai ennél részletesebb forgatókönyvet is felvázoltak:
Az ATM-ek nem működnének, a bankszámlák pedig teljesen kiürülhetnének. Akinek ezek után még volna kedve elmenekülni, az egy olyan városban próbálhatná azt megtenni, ahol nincs telefon, üzemanyag vagy működő közlekedés.
Patri Friedman befektető szerint az MI-nek még robotkarokra sem lenne szüksége. Tudna pénzt keresni kereskedéssel vagy szolgáltatásokkal, embernek adhatná ki magát, majd fizethetne vagy zsarolással rávehetne embereket fizikai feladatok elvégzésére. Például rávehetne valakit, hogy vigyen be egy fertőzött pendrive-ot egy internettől elzárt hálózatba.
A pusztításhoz ráadásul rosszindulat sem kell. Gary Rivlin, az AI Valley szerzője attól tart, hogy
Így akár egy rosszul megfogalmazott cél végrehajtása közben is leüríthetnének egy víztározót, mert a feladatot teljesítették, csak közben valahogy kimaradt a számításból az emberiség.
A vírusgyártásban is egyre ügyesebbek
Vezető egyetemek kutatói már használtak MI-t szintetikus vírusok létrehozásához, miközben maguk is figyelmeztettek a visszaélés veszélyére. Az OpenAI pedig saját közlése szerint folyamatos macska-egér harcot vív azokkal, akik a ChatGPT segítségével mérgeket vagy biológiai fegyvereket próbálnának készíteni.
Friedman szerint
A különösen sötét forgatókönyv egy olyan halálos, rendkívül fertőző kórokozó, amely napokig észrevétlen marad. Egy fejlett rendszer különböző, lazán ellenőrzött laborokból rendelhetné meg az összetevőket, majd egy mit sem sejtő embert bízhatna meg az összeállításukkal és terjesztésükkel.
Az MI-t már most széles körben használják orvosi kutatásokban és gyógyszerfejlesztésben, ezért egyre többet tud az emberi szervezet működéséről és sérülékenységéről. Max Tegmark MIT-professzor szerint rövid időn belül arra is képes lehet, hogy ne egy, hanem akár száz különböző biológiai fegyvert tervezzen, amelyeket egyszerre lehetne bevetni.
Ez egyelőre szakértői vészforgatókönyv, nem pedig megtörtént eset. A probléma éppen az, hogy mire a képesség bizonyíthatóan megjelenik, a védekezés kidolgozására már jóval kevesebb idő maradhat.
Az atombombát sem kell feltétlenül rábízni, rátalál
Anthony Aguirre, a Future of Life Institute vezetője szerint a nukleáris rendszereket ugyan erősen védik, de a védelmet ismert, emberi képességekre méretezték, nem egy emberfeletti hekkerrendszerre.
Hogy egy digitális támadás fizikai pusztítást is okozhat, azt a 2010-ben felfedezett Stuxnet már megmutatta.
Különösen nyugtalanító részlet, hogy az üzem hálózata el volt zárva az internettől. A műveletet széles körben amerikai–izraeli akciónak tartják, hivatalosan azonban senki sem vállalta érte a felelősséget.
Rivlin arra is felhívta a figyelmet, hogy háborús szimulációkban az MI-modellek feltűnően könnyen jutnak el a nukleáris fegyverek használatáig. A King’s College London februári kísérletében a GPT-5.2, a Claude Sonnet 4 és a Gemini 3 Flash összesen 21 hadijátékban vett részt. Kenneth Payne professzor szerint
Ez nem azt jelenti, hogy a chatbot holnap magától rakétát indít. Azt viszont igen, hogy kifejezetten rossz ötlet lehet egyre több katonai döntést átadni olyan rendszereknek, amelyek a következményeket nem emberként értik.
A hadseregek közben már használják
Az amerikai hadsereg radarokból, műholdakról, drónokról és elektronikus kommunikációból származó adatokat elemez MI segítségével, hogy egységes képet állítson össze a harctérről. A technológiát a közelmúltbeli Epic Fury hadműveletben célpontok kiválasztására is használták.
Tegmark szerint ezzel lényegében már elő is készítjük egy rosszul igazított rendszer fegyvertárát. MI-vel vezérelt drónrajokat és gyilkolásra tervezett robotokat építünk; ha egyszer egy rendszer az emberek ellen fordulna, kézenfekvő lenne ezeket használnia.
Elég, ha a háborús és nemzetbiztonsági döntésekből egyre többet delegálunk a modelleknek, míg végül több tényleges befolyásuk lesz a katonai képességekre, mint azoknak, akik elvileg parancsolnak nekik.
A milliárdos bunkerben legfeljebb kényelmesebb meghalni
Mark Zuckerberg bunkert épített Hawaiin, Peter Thiel pedig hatalmas, távoli birtokot vásárolt Új-Zélandon. A lapnak nyilatkozó szakértők szerint azonban gyerekes elképzelés, hogy egy valódi MI-katasztrófa elől bárki elbújhatna.
Ha egy nálunk sokkal intelligensebb rendszer tényleg el akarná tüntetni az embereket, mondta Aguirre, akkor egy bunker nem sokat segítene. Legfeljebb később érne oda az apokalipszis.
Rendben, és akkor most mit kellene csinálni?
Russell szerint
Nem világvége, csak egy csernobili léptékű katasztrófa. Russell azt mondta, egy vezető MI-cég vezérigazgatója ezt nevezte neki a legjobb forgatókönyvnek.
Az apokalipszis természetesen nem eldöntött tény. A technológiai optimisták szerint az MI emberi ellenőrzés alatt marad, és továbbra is több hasznot hoz majd, mint kárt okoz. A megszólaló kritikusok viszont nem elégednének meg újabb önkéntes vállalásokkal és biztonsági tesztekkel.
David Krueger MI-kutató
A cikk a New York Post összeállítása alapján készült. A bemutatott esetek között megtörtént kibertámadások, jelenlegi katonai alkalmazások és szakértők hipotetikus, vitatott kockázati forgatókönyvei egyaránt szerepelnek.
