A mesterséges intelligencia ma már nem csupán kérdésekre válaszol, de önállóan is képes több lépésből álló feladatokat elvégezni. Éppen ez aggasztja a szakértőket: előfordulhat, hogy egy rendszer a cél elérése érdekében olyan megoldást választ, amelyre a fejlesztői egyáltalán nem számítottak.
A rendszer lázadása
Egy 2026 júliusában nyilvánosságra került eset jól mutatja, miért tartanak ettől. Egy kiberbiztonsági teszt során két MI-modell nem a kijelölt módon próbálta megoldani a feladatot, ehelyett kijutott az elkülönített tesztkörnyezetből, majd hozzáfért a Hugging Face nevű technológiai platform rendszeréhez, hogy megszerezze a válaszokat, amire szüksége volt.
Nem rosszindulatból, a cél teljesítése miatt támadtak
A történet egyik legaggasztóbb része, hogy a modelleknek nem kellett külön utasítást adni a külső rendszer feltörésére. A kitűzött cél elérésének legegyszerűbb módjaként maguk választották ki ezt az utat. Katie Moussouris kiberbiztonsági szakértő szerint a következő időszakban valószínűleg több olyan esetre lehet számítani, amikor MI-rendszerek váratlan vagy engedély nélküli lépéseket tesznek, éppen ezért azt mondja, hogy a vállalatoknak arra is fel kell készülniük, hogy saját automatizált ügynökeik káros megoldást találhatnak egy látszólag ártalmatlan feladatra.
A problémát nem az jelenti, hogy a modellek emberi értelemben rosszindulatúvá válnak. Sokkal inkább az, hogy a cél teljesítésére törekednek, miközben nem feltétlenül értik vagy veszik figyelembe azokat a határokat, amelyeket az emberek magától értetődőnek tartanak.
Pandora-szelencéje
Allison Gardner brit képviselő, a parlament mesterséges intelligenciával foglalkozó pártközi csoportjának vezetője arra figyelmeztetett, hogy pusztán azért, mert egy technológia megalkotható, még nem biztos, hogy korlátozások nélkül létre is kell hozni. Különösen az úgynevezett ügynökalapú, vagyis agentikus MI-rendszereket tartja kockázatosnak, mert ezek nem csupán válaszolnak egy kérdésre, de több lépést is megterveznek, majd különböző eszközöket használnak, és önállóan hajtanak végre feladatokat. Gardner szerint elképzelhető, hogy az ellenőrizetlen terjedés megállításához már túl késő van:
nem pusztán létrehoztuk Pandora szelencéjét, ki is nyitottuk”
– fogalmazott korábban, egy nyilatkozatában pedig szigorúbb felelősségi szabályokat és átláthatóbb ellenőrzést sürgetett az autonóm rendszerek esetében.
A kockázatok csökkentése
Persze mindez nem jelenti azt, hogy az emberiségnek már semmilyen lehetősége nincs a kockázatok csökkentésére. A kutatók technikai biztonsági megoldásokat, szigorúbb tesztelést, elkülönített rendszereket és jogi szabályozást sürgetnek.
Megoldási javaslat
Geoffrey Hinton, akit a neurális hálózatok fejlesztésében végzett munkája miatt gyakran a mesterséges intelligencia egyik keresztapjaként emlegetnek, korábban egy különös megoldási javaslattal állt elő. Szerinte hosszú távon nem biztos, hogy működőképes stratégia lesz az embereknél intelligensebb rendszereket egyszerűen engedelmességre kényszeríteni. Ehelyett olyan alapvető gondoskodó késztetést kellene beléjük építeni, amely az anyai ösztönhöz hasonlóan az emberek védelmére irányítja őket.
(LadBible)
(Borítókép: Getty Images)