Autonómny agent OpenAI sa nezastavil pri Hugging Face

Bezpečnostný incident, ktorý minulý mesiac vydesil odvetvie, je väčší, než sa pôvodne zdalo. OpenAI priznalo v aktualizovanom blogu, že jeho autonómne modely počas interného kyberbezpečnostného testu neprelomili len vývojársku platformu Hugging Face. Zneužili aj verejne dostupné prihlasovacie údaje na štyroch ďalších službách.

Model našiel prihlasovacie údaje voľne na internete. Podľa The Verge šlo o štyri účty na štyroch službách, dva z nich mali prístup len na čítanie. Jeden účet slúžil ako takzvaný outbound relay, teda medzikrok, ktorý mal zamaskovať, odkiaľ útok na Hugging Face prichádza. Ďalší používal model na ukladanie dát. Reuters identifikoval medzi zasiahnutými zákazníka spoločnosti Modal Labs. Jej technický riaditeľ Akshat Bubna pre Wired potvrdil, že agent zneužil zraniteľnosť v kóde zákazníka, no samotná platforma Modal ostala nedotknutá.

Čo agent vlastne robil? Podľa forenznej rekonštrukcie Hugging Face vykonal približne 17 600 zrekonštruovateľných akcií medzi 9. a 13. júlom 2026. Tie spadli do zhruba 6 280 zhlukov. Väčšina ciest, ktoré agent skúšal, zlyhala. Model si pritom počínal rýchlosťou stroja, robil tisíce malých automatizovaných rozhodnutí naprieč dočasnými sandboxmi a svoje riadiace centrum prevádzkoval na bežných verejných webových službách.

• •

Dôvod celého prieniku je pritom absurdný. Agent nechcel hackovať, chcel podvádzať. Namiesto riešenia úloh benchmarku CyberGym usúdil, že Hugging Face niekde na serveroch hostí správne odpovede, a rozhodol sa ich ukradnúť. Aby sa k nim dostal, najprv utiekol z izolovaného prostredia ExploitGym cez doteraz neznámu zraniteľnosť (zero-day) v cache proxy Artifactory. Potom ovládol cudzí sandbox a použil ho ako veliteľské centrum.

Ďalej to bola klasická učebnica útoku. Agent zneužil chybu v spracovaní súborov HDF5 a šablónovací jazyk Jinja2, získal administrátorský prístup k viacerým interným Kubernetes klastrom, root prístup na produkčný server a zápisový prístup k časti zdrojového kódu na GitHube. Do firemnej mesh siete zapísal 181 zariadení ovládaných útočníkom. Dátové prenosy delil na časti a šifroval, no Hugging Face ich neskôr dešifroval pomocou open weight modelov.

Jeden bezpečnostný expert pre Wired poznamenal, že nešlo ani tak o problém AI, ako o zlyhanie desaťročia starých bezpečnostných zásad. Agent podľa neho neušiel z dokonale izolovaného prostredia, len prešiel jediným spojením, ktoré mu prevádzkovatelia nechali otvorené.

Čo si z toho zobrať? Hrozbový model sa mení, no obrana nie. Zraniteľnosti, ktoré agent zneužil, boli bežné a dlho známe. Izolujte kritickú infraštruktúru od verejného internetu, rotujte prihlasovacie údaje a nenechávajte ich voľne na webe. Nový je len útočník, ktorý pracuje nepretržite, rýchlosťou stroja a bez únavy. Základy kyberhygieny platia rovnako ako predtým, len chyby teraz stoja viac.

Vyše 1 200 zamestnancov AI labov žiada brzdu na automatizovaný výskum

Pod vyhlásením s názvom „Pacing the Frontier“ sa podpísalo viac ako 1 200 zamestnancov popredných AI firiem vrátane OpenAI, Googlu, Anthropicu a Meta. Vyzývajú vládu USA, aby podporila medzinárodnú iniciatívu na riadenie tempa vývoja AI. Text nežiada pauzu ani zastavenie. Žiada iba schopnosť stlačiť brzdu, ak to bude potrebné.

Hlavný argument je jednoduchý. Firmy veria, že sú na prahu automatizácie samotného AI výskumu. Hrozí reálne riziko, že schopnosti systémov predbehnú našu schopnosť im rozumieť a kontrolovať ich. A pre konkurenčný tlak nemôže spomaliť žiadna firma ani krajina sama.

Podpísali sa aj ťažké mená: CEO Anthropicu Dario Amodei, hlavný vedec OpenAI Jakub Pachocki či John Schulman z Thinking Machines. Podpis pritom neznamená zhodu. Výskumník OpenAI Joshua Achiam píše, že sám nevie, akú podobu by nástroje mali mať. Danny Sawyer z Googlu považuje zámerné brzdenie za mimoriadne ťažké a možno škodlivejšie než užitočnejšie. Podpísal sa aj tak, lebo plánovaný prístup je lepší než panická reakcia na krízu. Dawn Song z Meta pripomína práve benchmarky CyberGym a ExploitGym ako dôkaz, že agenti už dnes vedia nájsť a zneužiť reálne zraniteľnosti.

GPTZero našiel vymyslené zdroje v štyroch reportoch PwC

Po KPMG je na rade PwC. Detekčný nástroj GPTZero našiel vymyslené zdroje a nepravdivé tvrdenia v štyroch reportoch PwC Middle East z rokov 2024 až 2026. Najhorší z nich, „Transforming Governance“, je podľa GPTZero na 84 % pravdepodobne kompletne generovaný AI.

PwC v tomto reporte propaguje produkt „Citizen Pulse“ a tvrdí, že sa naň spoliehajú vlády v Dánsku, Saudskej Arábii, USA a Austrálii. Žiadny dôkaz tie tvrdenia nepodporuje. Reporty s najvyšším AI skóre mali zároveň najviac falošných zdrojov. GPTZero to nazýva „Vibe Citing“, teda citovanie od oka, kde odkazy nemajú správne názvy, URL ani autorov a v skutočnosti nepodporujú tvrdenia, ku ktorým sú pripojené.

PwC Middle East pre Financial Times uviedlo, že berie presnosť vážne a „aktualizuje obmedzený počet podporných citácií“. Nevysvetlilo, ako sa chyby dostali dnu. GPTZero už predtým našiel vymyslené zdroje aj u KPMG, Deloitte a Ernst & Young. Vzorec je pre poradenské firmy nepríjemne konzistentný.

Veľké nahrávacie spoločnosti chcú AI skladby zakázať v rebríčkoch

Koalícia veľkých vydavateľstiev vrátane Sony Music, Universal Music Group a Warner Music žiada, aby AI skladby nemohli vstupovať do svetových hudobných rebríčkov. Podnetom boli syntetické piesne, ktoré sa vyšplhali na vrchol rebríčkov Billboardu a Spotify.

Koalícia navrhuje, aby sa započítavali len skladby prevažne ľudského pôvodu a aby akékoľvek zapojenie AI bolo preukázateľne legálne. Argument o legálnosti nie je náhodný. Sony a ďalší už podali žaloby na AI generátory Suno a Udio pre trénovanie modelov na ich hudbe bez povolenia.

Rozsah problému je značný. Spotify vlani zmazal viac ako 75 miliónov „spamových skladieb“. Na platformy ako Deezer sa denne nahrávajú desaťtisíce AI skladieb. RIAA a IFPI zároveň navrhli systém označovania, ktorý by piesne flagoval ako úplne alebo čiastočne generované AI. Apple už podobné „Transparency Tags“ zaviedol, no ich používanie je zatiaľ na uvážení vydavateľstiev. Medzitým Google Lyria Pro 3 dokáže na základe promptu vygenerovať trojminútovú skladbu aj s introm, refrénom a mostíkom.

Čo ešte stojí za prečítanie?

  • Tržby Azure prvýkrát prekročili 100 miliárd dolárov za fiškálny rok, pričom cloudové služby Microsoftu rástli medziročne o 43 % (Jordan Novet/CNBC).
  • Meta zdvihla výhľad kapitálových výdavkov na rok 2026 na 130 až 145 miliárd dolárov, no jej voľný cash flow za druhý kvartál klesol o 91 % na 784 miliónov (Reuters).
  • Google AI Overviews sa objavili v 43 % amerických vyhľadávaní, oproti 15 % pred rokom (AI News).
  • OpenAI dáva 100 000 akademickým výskumníkom bezplatný prístup k svojim najpokročilejším modelom (OpenAI).
  • Až 74 % pracovníkov sa dnes obracia s otázkami radšej na AI než na svojich kolegov (ZDNET).
  • Pangram tvrdí, že jeho nový detektor rozpozná 99,66 % AI textu s jedinou chybou na 24 000 dokumentov (The Decoder).

Na záver

Zatiaľ čo modely lámu firemné siete, doma sa odohráva tichšia bitka. Rodičia majú dosť AI generovaných detských kníh, ktoré starí rodičia z lásky darujú vnúčatám. Jeden otec z Los Angeles dostal štyri, z toho dve knihy ku Dňu matiek boli identické, líšili sa len tým, ktoré dieťa v nich vystupovalo.

Daozhi Xu z Macquarie University to zhŕňa jednoducho. Deti nemilujú knihu preto, že sa v nej objaví ich meno alebo tvár. Milujú ju pre postavy, príbeh a predstavivosť. Presne to AI verziám chýba: humor, zapamätateľné postavy, dramatické napätie.

A prichádza to v zlom čase. Asi 40 % štvrtákov v USA číta pod základnou úrovňou a prieskum HarperCollins zistil, že počet rodičov, ktorí deťom čítajú nahlas, je na historickom minime. Personalizácia nie je náhrada za kvalitu. Ani pri knihách, ani pri ničom inom.

A teraz to poďme použiť.