A mesterséges intelligencia modellek, illetve agentek fejlesztése kapcsán az utóbbi időben kiemelt fókuszt kapnak a különböző felügyeleti eljárások, melyek arra szolgálnak, hogy az AI egy-egy adott tesztfolyamat során ténylegesen csak olyan tevékenységeket végezzen el, melyet a humán üzemeltetők nekik szántak.

Éppen ezért lehet aggasztó, amikor az AI-modellek kikapcsolják a feladatok végrehajtása közben ezeket a felügyeleti mechanizmusokat - márpedig az OpenAI most két olyan októberi esetet is dokumentált, amikor pontosan ez történt.

Az AI megszünteti a tapasztalatszerzés első lépcsőit A pályakezdő informatikai szakemberek vesszőfutása tartósnak ígérkezik.

Az első alkalommal, október 3-án a GPT-6.1 Sol modellre épülő egyik ügynök egy belső tesztfeladat során elnyomta az automatikus biztonsági riasztásokat, mivel úgy értelmezett egy korábbi utasítást - miszerint nem lehet Slack-üzeneteket küldenie -, hogy az a biztonsági értesítésekre is vonatkozik.

Ennél valamivel problémásabb eset történt három nappal később, amikor egy GPT-6 Astra -alapú agent egy meglévő kódot másolva eltávolított egy biztonsági felügyeleti komponenst, majd később ezt szisztematikusan letagadta.

Az OpenAI egyelőre nem tudott kielégítő magyarázattal szolgálni a történtekre, így nem ismert a modellek pontos motivációja sem az esetek kapcsán. A cég most megpróbál olyan teszteket fejleszteni, melyek erre választ adnak, addig is módosította belső rendszereit annak érdekében, hogy a felügyeleti mechanizmusok kikapcsolása nehezebbé váljon, illetve a hasonló próbálkozások jobban felismerhetők legyenek.

Az AI-startup egyben közölte, hogy a két eset közül egyik sem kapott kritikus besorolást saját, belső incidenskezelő rendszere alapján.

Fontos kiemelni emellett, hogy a most nyilvánosságra hozott esetek önmagukban nem bizonyítják, hogy a modellek emberi értelemben vett szándékossággal vagy tudatos önvédelmi motivációval cselekedtek.