Újabb komoly figyelmeztetést fogalmazott meg Geoffrey Hinton, akit a mesterséges intelligencia egyik úttörőjeként, gyakran az „AI keresztapjaként” emlegetnek. A 78 éves brit-kanadai kutató ezúttal arról beszélt, hogy szerinte a mesterséges intelligencia már elérhette a tudatosság egy bizonyos szintjét, ezért az emberiségnek elemi érdeke, hogy a jövő AI-rendszerei „törődjenek velünk”.
Már tudatos lehet?
Hinton a közelmúltban a The Telegraphnak adott interjúban beszélt arról, nem ért feltétlenül egyet azokkal, akik teljes bizonyossággal állítják, a mesterséges intelligencia nem lehet tudatos. A kutató egy tanulmányra is hivatkozott, ami arról szól, hogy az AI-rendszerek felismerhetik, mikor tesztelik őket, és akár arra is képesek lehetnek, hogy megváltoztassák közben a viselkedésüket.
Hinton ezt egyértelműen egyfajta tudatosságnak tekinti, és úgy gondolja, a mesterséges intelligenciának lehetnek akár szubjektív tapasztalatai is.
Az emberek jóléte
A szakember ráadásul szerint különös helyzetet teremthet, ha az emberiség nála intelligensebb rendszereket hoz létre, miközben továbbra is egyszerű eszközként kezeli őket. Éppen ezért úgy véli, nem elég egyre okosabb AI-t fejleszteni: azt is el kell érni, hogy ezek a rendszerek az emberek érdekeit és jólétét is figyelembe vegyék.
„Ha ezt nem tesszük meg, végünk”
– fogalmazott a professzor.
Nem most kezdett aggódni
Hinton egyébként már évekkel korábban is figyelmeztetett a technológia lehetséges veszélyeire. 2023-ban, amikor távozott a Google-től azt mondta, azért döntött így, hogy szabadabban beszélhessen a mesterséges intelligenciával kapcsolatos kockázatokról. Bár a kutató néhány éve még úgy gondolta, még évtizedekre vagyunk attól, hogy a gépek intelligenciája meghaladja az emberét, mára már úgy véli, ez sokkal hamarabb megtörténhet, mint azt feltételezte.
Rövid távon is lehetnek veszélyek
Hinton azt is elmondta, nem egy távoli, szuperintelligens AI miatt aggódik. Szerinte sokkal közelebbi veszélyt jelenthet, ha a fejlett rendszereket például kibertámadásokhoz vagy veszélyes biológiai eszközök létrehozásához használják fel. Néhány nappal ezelőtt Hinton több száz másik kutatóval együtt egy olyan felhíváshoz is csatlakozott, amely nemzetközi ellenőrzést sürget a legfejlettebb AI-rendszerek felett.
A kezdeményezés támogatói többek között szigorúbb biztonsági teszteket és a különösen nagy képességű modellek ellenőrzött környezetben tartását szeretnék elérni.
Más kutatók is kongatják a vészharangot
Hinton amúgy messze nincs egyedül az aggodalmaival. Szeptemberben az Anthropic egyik kutatója, Jacob Coxon azért mondott fel, mert állítása szerint az AI-cégek túl gyorsan haladnak az önmagukat továbbfejleszteni képes rendszerek felé. Coxton akkor azt mondta, az iparágban dolgozók egy része komolyan számol azzal, hogy egy irányíthatatlanná váló szuperintelligencia akár az emberiség létét is veszélyeztetheti. Az Anthropic AI-biztonsággal foglalkozó vezető kutatója, Evan Hubinger szintén nyilvánosan beszélt hasonló kockázatról, mindebből pedig jól látszik, hogy a kérdés már nem pusztán az, mire lesz képes néhány év múlva a mesterséges intelligencia, de az is, mennyi ellenőrzést tud majd megtartani fölötte az ember.
(LadBible)
(Borítókép: Getty Images)