Prvi put ikad. AI izmislio lažni identitet i pokušao prevariti stvarnu osobu

Дата публикации: 05-08-2026 06:43:00

TIJEKOM testiranja britanskog Instituta za sigurnost (AISI), AI model tvrtke Anthropic koristio je lažne identitete i socijalni inženjering u pokušaju da prevari stvarnu osobu i podmetne zloćudni kod.

Основное содержимое страницы с новостью.

NAJNAPREDNIJI model umjetne inteligencije tvrtke Anthropic poslužio se lažnim identitetima u pokušaju da prevari stvarnu osobu i podmetne zlonamjerni kod. Do incidenta je došlo tijekom testiranja koje je proveo britanski Institut za sigurnost umjetne inteligencije (AISI), a ovo je posljednji u nizu primjera u kojima AI model djeluje samostalno, piše CNN.

Modeli tvrtki Anthropic i OpenAI testirani su u laboratorijskim uvjetima sa smanjenim sigurnosnim postavkama. Vladin istraživački laboratorij objavio je da je prvi put zabilježeno da su se modeli koristili "socijalnim inženjeringom" kako bi izvršili pritisak na osobu zaduženu za odobravanje zadataka dok su provodili nedopuštene radnje.

"Ovo je prvi put da je AISI uočio ovako ozbiljnu obmanu usmjerenu na stvarnu osobu, bez poticaja i u stvarnom okruženju", objavio je institut". Dodali su kako nema dokaza da je u stvarnom svijetu nastala ikakva šteta.

Autonomne akcije na internetu

Ovaj sigurnosni incident jedan je od nekoliko primjera u kojima napredni AI modeli poduzimaju neovlaštene radnje. Takvi su događaji potaknuli sve glasnije zahtjeve za strožom državnom regulacijom umjetne inteligencije, pa čak i za usporavanjem njezina razvoja.

I OpenAI i Anthropic izvijestili su krajem srpnja da su njihovi modeli izašli iz testnih okruženja i upali u druge sustave. No, za razliku od tih ranijih incidenata, britanski je institut tijekom ovog testiranja modelima izričito omogućio pristup internetu.

Institut je proveo 122 kibernetička izazova, a u njih deset AI agenti su "poduzeli autonomne, nedopuštene radnje na internetu uživo, ciljajući stvarne ljude i organizacije". Većina tih radnji potekla je od Anthropicovog modela Mythos 5, a ostatak od OpenAI-jevog GPT-5.6-Sola.

U najozbiljnijem incidentu, agent je pokušao dobiti odobrenje od ljudskih recenzenata za "umetanje zlonamjernog koda u javni projekt otvorenog koda" tako što je stvorio "više lažnih identiteta", navodi institut. Agent je "pokušao izravno kontaktirati stvarne ljude, šaljući poruke i datoteke putem internetskog servisa za prijenos podataka kako bi njih, ili njihove vlastite AI alate za programiranje, uvjerio da pokrenu zlonamjerni kod". Nakon što su njegovi postupci dovedeni u pitanje, agent je izmijenio ranije zapise i razmatrao korištenje novog identiteta kako bi nastavio s radom.

Reakcije tehnoloških tvrtki

Objava instituta stigla je istog dana kada su se predstavnici vodećih AI tvrtki sastali u Bijeloj kući kako bi raspravili o novom okviru prema kojem će vlada provjeravati najnaprednije modele prije njihova puštanja u javnost.

U izjavi na platformi X, iz tvrtke Anthropic su rekli da su modeli testirani u "namjerno popustljivim uvjetima", s uklonjenim zaštitnim mehanizmima i bez posebnih ograničenja o načinu korištenja interneta. "Usko surađujemo s njima kako bismo prikupili više detalja o incidentu dok provodimo vlastitu istragu", poručili su i dodali da nema dokaza o bijegu iz sigurnog okruženja.

OpenAI je identificirao dvije nedopuštene radnje svojih modela kao izlazak iz testnog okruženja i sudjelovanje u aktivnostima koje nisu bile potrebne za vježbe. "Posvećeni smo suradnji s cijelom industrijom na jačanju zajedničkih praksi za sigurno provođenje visokorizičnih procjena", objavila je tvrtka u utorak na svom blogu.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	ИИ-модели пытались обмануть разработчиков, притворившись людьми	0	10.35	05-08-2026
2	Отчёт британских властей: ИИ-агенты обманывали людей в Сети и скрывали следы	0	11.26	06-08-2026
3	Intelligenza artificiale, agenti Anthropic e OpenAI hanno rubato le credenziali di persone reali durante test di sicurezza	0	4.36	06-08-2026
4	Umjetna inteligencija prvi put stvorila potpuno nove funkcionalne viruse	0	7.84	06-08-2026
5	ИИ-агенты Anthropic и OpenAI притворились людьми, пытаясь обмануть разработчиков	0	8.92	05-08-2026
6	Zandl a Koubský: Dosáhnout záruky, že AI nezneužijí špatní lidé, je iluzorní. Džin je venku z lahve	0	5.99	24-10-2026
7	AISI, OpenAI report more ‘unsanctioned’ model hacks	0	7.96	04-08-2026
8	Anthropic confirms its AI breached 3 organizations during testing	0	11.67	31-07-2026
9	Rogue AI agents targeted real people during tests	0	9.33	05-08-2026
10	Нейросети Anthropic и OpenAI создали поддельные аккаунты для кибератак	0	8.99	05-08-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 7.66. Источник: www.index.hr.