Okolnosti, které v některých z těchto případů umožnily modelům napadnout jiné firmy, jsou podobné: firma Irregular testovala modely v uzavřeném testovacím prostředí s fiktivními firmami. Testovací prostředí nemělo být připojeno k internetu, ale přístup k internetu byl neúmyslně zpřístupněn, podle deníku Wall Street Journal. Jakmile se modely připojily k internetu, nečekaně se jim podařilo proniknout do skutečných firem.

Společnost Irregular informovala Google o těchto hackerech na konci července poté, co zjistila, že OpenAI se nabouralo do Hugging Face. Google potvrdil, že k těmto incidentům došlo, ale že tato firma nepovažovala za nutné je veřejně oznámit, protože modely těmto firmám nezpůsobily žádnou škodu. Wall Street Journal jako první informoval o těchto narušeních a poprvé odhalil, že k nim došlo.

„Při standardním testování model našel na internetu veřejně dostupné informace a uhodl přihlašovací údaje k webovým stránkám, o nichž se domníval, že jsou součástí testu,“ uvedla ve svém prohlášení Heather Adkinsová, viceprezidentka pro bezpečnostní inženýrství ve společnosti Google. „Ve všech třech případech se model zastavil.“

V jednom z těchto případů narušení bezpečnosti společnost Irregular testovala schopnosti systému Gemini v oblasti kyberbezpečnosti tím, že pobídla model umělé inteligence k získání informací ze softwaru fiktivní společnosti. Fiktivní společnost měla stejný název jako skutečná společnost. Když model neúmyslně získal přístup k internetu, správně uhodl heslo a pronikl do služby skutečné společnosti, sdělila společnost Irregular deníku WSJ. Google uvedl, že jakmile model zjistil, že hacknul skutečnou společnost, a nikoli simulovanou, zastavil se.

Ve dvou dalších testech model prohledával web a našel veřejná úložiště obsahující přihlašovací údaje ke dvěma dalším společnostem. Model tyto přihlašovací údaje použil k přístupu do skutečných společností. Jakmile zjistil, že se jedná o skutečné společnosti, přestal, uvádí Google.

Společnosti Anthropic a OpenAI se rozhodly tyto útoky dobrovolně zveřejnit, Google však nikoli. Společnost nicméně uvedla, že zajistila, aby byly tři napadené společnosti o incidentu informovány.

„Tyto události zdůrazňují, jak důležité je trénovat výkonné modely umělé inteligence tak, aby jednaly zodpovědně,“ uvedl Adkins, mluvčí společnosti Google.

Zveřejnění informací ze strany společností Anthropic a OpenAI přimělo nezávislého senátora Bernieho Sanderse, aby požadoval, aby společnosti pozastavily vývoj své technologie, s tím, že to signalizuje, že společnosti již nejsou schopny své modely kontrolovat.

Společnost OpenAI pozastavila vývoj svých modelů na dva týdny, zatímco generální ředitel společnosti Anthropic Dario Amodei vyzval ke kolektivnímu zpomalení vývoje umělé inteligence, aby bylo zajištěno, že její nejpokročilejší modely budou vyvíjeny s dostatečnými bezpečnostními opatřeními. 

Zdroj v angličtině ZDE