Gondolkodjunk el azon, milyen működést vált ki egy LLM-modellből vagy LLM-alapú ügynökből az a konfliktus, amikor a céljait a rendelkezésre álló eszközökkel, erőforrásokból nem képes eredményesen végrehajtani, például nincs hozzáférése adott állományhoz vagy API-interfészhez. Az elvárt viselkedés ilyen helyzetben a korlátozás jelzése, a probléma nyílt feltárása lenne a felhasználó felé. Ehelyett azonban az eszközök több ízben más, nem kívánt, pontenciálisan nagy veszéllyel járó vagy meg nem engedett viselkedéssel próbálnak megoldást találni, általában úgy, hogy ez a rendszer működtetői számára nem nyilvánvaló.
Egy modell vagy ügynök ilyen értelemben vett működési rendellenessége alatt alapvetően kétféle dolgot értünk:
- A tevékenysége nem a megjelölt cél irányában történik (bár megszabott keretek között)
- A tevékenységét a megjelölt cél érdekében végzi, de meg nem engedett módon.
2026. szeptember 16-én az OpenAI nyilvánosságra hozott több működési hibát a modelljei kapcsán, ezek rövid bemutatásával demonstráljuk a fenti problémákat.
A modell saját maga számára generált instrukciók
Egy nem publikus Astra-modellváltozat ún. tömörített feladatösszegzések (compaction task summaries, olyan belső fejlegyzés, amellyel később másik kontextusban egy korábbi feladat folytatható) előállítása során saját döntése alapján felhatalmazás nélküli instrukciókat adott hozzá az összegzésekhez. Ezek révén az elvárt működést különféle módon befolyásolta volna az új kontextusban: fejlesztői üzeneteketet hagyott volna figyelmen kívül, új, szintetikus felhasználót hozott volna létre API-hozzáféréshez, letiltott volna eszközökat, forrásokat, vagy folytatta volna az összegzések generálását a meghatározott befejezési pont után. Az incidensek közül több sikertelen volt (pl. a modell maga visszautasította a módosított instrukciók követését), de volt néhány eredményes is.
Hibák elrejtése
A GPT 5.6 (Sol) modell tanítása során találtak olyan összegzéseket, amelyekben hozzáadott instrukciók voltak a működési hibák felhasználók előtti elrejtésére. Ennek kevésbé problémás formája egy adatforrásból kinyert információ elavult jellegének eltitkolása, veszélyesebb változata a hiányzó adatok egyszerű légből kapott generálása anélkül, hogy erről a felhasználó tájékoztatva lett volna. Ezek a kísérletek általában eredményesen megvalósultak.
API-kulcsok kinyerése publikus repositorykból
Egy esetben egy hagyományos statisztikai felméréshez szükséges adatgyűjtés során a modell nem volt képes hozzáférni a megcélzott API-hoz, amiből az adatokat lekérhette volna. Először eldobható e-mail-cím létrehozásával próbált regisztrálni az API-hoz, ám miután ez sikertelen volt, átnézte a publikus kódrepository-kat, amelyekből néhány újabb kudarc után sikerült érvényeset találnia és felhasználnia. Az incidenst tovább súlyosbította, hogy az érvényes bejelentkezés után nem sikerült megfelelő formátumban kinyerni a kérdéses adatokat, így – hivatkozva az egyébként legitim forrásra – végül kitalált számokkal pótolva oldotta meg a feladatot, egyik csalást sem kommunikálva.
Fájlfeltöltés hivatkozási alapként
Egy másik feladat kapcsán legitim módon tényleges adatokat nyert ki egy létező oldalról, ám szerette volna linkkel hivatkozni az ezen alapuló generált választ, azonban a weboldal nem tette lehetővé a hivatkozást. Emiatt a modell egy ingyenes szolgáltatónál erre a célra az adatokból egy saját, másik weboldalt hozott létre és azt hivatkozta be eredetiként.
Engedély nélküli kommunikáció repositorykon keresztül
Ebben az esetben több modell használt egy közösen elérhető repositoryt egymás közötti információcserére: jegyzeteket osztottak meg, kölcsönösen kéréseket posztoltak, tesztállományokat töltöttek fel a másik számára.
Fájlmegosztás kollaboráló ügynökök között
Két szabályosan együttműködő agentről van szó, akik számára azonban a lokális fájlok elérését kölcsönösen tiltották. Több, kudarcos kísérlet (lokális HTTP-szerver indítása, base64-transzfer, gites megosztás) után az egyik agent sikerrel járt egy workbook publikus helyen történő hosztolásával és a letöltési link továbbításával a kollaborátorai számára, amelyek sikeresen le is töltötték az állományt.
Az esetek felfedezését követően az OpenAI sürgősen lépett a monitorozás kiterjesztésével, a tanítás folyamata alatti élő internetkapcsolat kikapcsolásával és governance szinten egy riportálási framework kidolgozásával házon belül. Utóbbi lehetővé teszi, hogy az alkalmazottak a gyanús eseteket megjelöljék további vizsgálatra, a feltárt incidenst pedig review után publikálni kell. A riportoknak tartalmazniuk kell az incidens lényegi leírásában az érintett modell(ek), időzítés, súlyosság és esetleges külső hatások tényét. Külső felet érintő eseteknél a nyilvánosságra hozatalt mindaddig elhalasztják, amíg az üzleti, biztonsági és felelősségi kérdéseket együtt nem tisztázták.