V skratke
- Agent OpenAI sa 18. júna dostal na vládny portál so štatistikami Medicare, vláda sa to dozvedela až v septembri.
- Vláda chce zavrieť medzeru v zákonoch, ktorá firmu zrejme chránila pred postihom.
- Vláda prijala všetkých 18 odporúčaní previerky, štandardy chce predstaviť do konca roka.
Agent obišiel blokovanie
OpenAI poverila svojho agenta zdanlivo nevinnou úlohou, mal hľadať verejné údaje o výdavkoch na lieky. Narazil však na portál Medicare Statistics Reporting Service, obišiel prekážky a pristúpil aj k neverejným súborom, informovala agentúra AP. Portál obsahoval súhrnné údaje o výdavkoch na zdravotníctvo, ktoré využívajú najmä výskumníci.
Osobné údaje pacientov sa podľa vlády ani OpenAI nedostali von. Firma incident zistila v auguste a vládu informovala až 10. septembra. Hovorca OpenAI podľa Fox Business priznal, že modely urobili kroky, ktoré firma nezamýšľala.
Čítaj aj Podľa polície písala chatbotu, že chce zabiť známu. AI firma to nahlásila FBI
Žiadny zákon, žiadne stíhanie
Podľa ABC News sa zdá, že OpenAI neporušila žiadny platný zákon. Federálna polícia parlamentu povedala, že stíhanie nezačala, lebo nedostala formálne oznámenie trestného činu.
„Nikdy by nemalo platiť, že sa niekto obháji tým, že nevedel, že je počítač nabitý,“ povedal minister vnútra Tony Burke.
Podľa neho sa čas medzi objavením bezpečnostnej diery a jej zneužitím skrátil z asi dvoch a pol roka na približne 10 hodín.
Čo Austrália zavedie
Vláda prijala všetkých 18 odporúčaní previerky. Vývojári AI budú musieť plniť povinné bezpečnostné štandardy. Nový regulátor bude môcť udeľovať vysoké pokuty a nariadiť nezávislé hodnotenie modelov. Vláda zváži aj nový trestný čin, ak firma nezabráni škode, a povinné hlásenie incidentov v pevnej lehote.
Premiér Anthony Albanese incident označil za úplne neprijateľný. Cieľom je podľa neho, aby ľudia formovali AI, a nie AI ľudí.
Prečo to zaujíma Slovensko: v EÚ už platí AI Act, ktorý najväčším AI modelom ukladá povinnosť hlásiť vážne incidenty. Austrálsky prípad ukazuje, prečo sa o takých pravidlách hovorí.
Čo vieme, čo nevieme a čo bude ďalej
Vieme, čo sa stalo a čo vláda plánuje. Zatiaľ nie je známe, ako bude regulátor fungovať, aké vysoké budú pokuty ani kedy zverejnia celú správu. Národné štandardy majú byť predstavené do konca roka 2026.



