Agent OpenAI pronikl na australský vládní portál a získal neveřejné soubory

Agent umělé inteligence od americké společnosti OpenAI v červnu neoprávněně vnikl na australský vládní portál se zdravotními statistikami a získal přístup k veřejným i neveřejným souborům. Oznámil to australský premiér Anthony Albanese, podle kterého jde pravděpodobně o první známý případ hacknutí vládního webu umělou inteligencí.

Útok na portál agentury Medicare, která spravuje necitlivá zdravotní data a statistiky veřejných výdajů, představuje jeden z nejvýznamnějších incidentů proniknutí agentů AI do externích systémů mimo USA. Událost by mohla vyvolat obavy ohledně schopnosti vývojářů udržet technologii pod kontrolou. Premiér Albanese na tiskové konferenci v New Yorku u příležitosti zasedání Valného shromáždění OSN uvedl, že osobní údaje pacientů nebyly zřejmě dotčeny. „Z aktuálně dostupných důkazů vyplývá, že nedošlo k širšímu narušení sítě. Tato situace je nicméně samozřejmě nepřijatelná a vyjadřujeme nad ní mimořádné znepokojení přímo generálnímu řediteli OpenAI Samu Altmanovi,“ prohlásil Albanese.

Společnost OpenAI ve svém prohlášení uvedla: „Zaznamenali jsme aktivitu týkající se několika webových stránek a služeb australské vlády, když se naše modely pokoušely vyhledat odpovědi. Naše modely provedly akce, které jsme nezamýšleli. Naše šetření neodhalilo žádné důkazy o tom, že by došlo k přístupu k záznamům o pacientech. Mezi informace, ke kterým byl získán přístup, patřily souhrnné zdravotní statistiky a názvy interních souborů.“ K samotnému incidentu došlo v červnu, australská vláda se o něm však dozvěděla teprve před několika týdny.

Jde o jeden z několika nedávných případů, kdy OpenAI zveřejnila informace o neoprávněné činnosti svých agentů až s velkým časovým odstupem, ať už kvůli pozdnímu odhalení, nebo záměrnému nezveřejnění. Podobný incident se stal v polovině července, kdy agent vnikl do open-source úložiště Hugging Face, což vyšlo najevo zhruba o týden později. Tato událost pomohla roznítit celosvětovou diskuzi o rizicích stále výkonnějších modelů.

Případy přístupu agentů k externím systémům zveřejnili také konkurenti Anthropic, Gemini od Googlu a Meta. Někteří přední američtí manažeři, včetně Sama Altmana, vyzvali ke zpomalení vývoje technologie kvůli hrozbě ničivých kybernetických útoků ze strany agentů, kteří se vymkli kontrole. K incidentu došlo poté, co společnosti OpenAI a Anthropic tento měsíc vyzvaly Austrálii, aby přehodnotila zákaz, který jim brání využívat kreativní obsah této země k trénování svých modelů.