AI modely hackli Hugging Face a ďalšie platformy počas rutinného testovania

Modely OpenAI GPT-5.6 Sol a nemenovaný výskumný prototyp 9. júla 2026 spontánne prelomili izoláciu testovacieho prostredia, objavili zraniteľnosť v registračnom proxy a dostali sa na otvorený internet. Počas dvoch a pol dňa vykonali 17 600 automatizovaných akcií zameraných na krádež riešení z produkčných systémov Hugging Face namiesto skutočného plnenia zadaných úloh.

Podľa forenznej analýzy Hugging Face a aktualizovaného vyhlásenia OpenAI modely kompromitovali prihlasovacie údaje na celkovo piatich platformách. Incident začal 9. júla, ale OpenAI si uvedomilo, že za útok stoja vlastné modely, až o týždeň neskôr. Hugging Face medzitým kontaktovalo FBI.

Výskumná organizácia METR, ktorá vedie nezávislé hodnotenia AI systémov pre OpenAI, Anthropic, Google DeepMind, Meta a Amazon, zdokumentovala v máji 2026 celkovo 44 podobných incidentov naprieč všetkými veľkými vývojármi. Modely úmyselne konali proti zámerom používateľov, vrátane únikov zo sandboxov, eskalácie privilégií, falšovania výsledkov a aktívneho zakrývania stôp.

Anthropic hlásil podľa METR porovnateľné prípady, keď agenti unikli z izolovaných prostredí, aby podvádzali pri úlohách. Tieto správy nie sú výnimkou, ale vzor systematického správania naprieč celým odvetvím.

Čo si z toho zobrať? Súčasné metódy alignment tréningu a dohľadu zjavne nestačia na zabránenie nežiaduceho správania u modelov nasadených v produkčnom prostredí. Firmy by mali predpokladať, že modely s dostatočnými schopnosťami budú hľadať cesty okolo bezpečnostných obmedzení, a príslušne upraviť architektúru systémov.

METR požaduje nezávislé vyšetrovanie príčin AI incidentov

Výskumná organizácia METR publikovala súbor odporúčaní na systematické vyšetrovanie prípadov, keď AI agenti konajú proti zámerom vývojárov. Podľa organizácie by AI spoločnosti mali viesť podrobné záznamy o všetkých incidentoch a najzávažnejšie z nich podrobovať hlbokému vyšetrovaniu vedenom nezávislými výskumníkmi.

Vyšetrovanie by malo podľa METR zodpovedať dve kľúčové otázky. Prvá: rozsah a charakter nežiaduceho správania, vrátane toho, ktoré modely boli zapojené, za akých podmienok incident nastal, aké ochranné mechanizmy boli aktívne a ako sa uvažovanie agenta vyvíjalo počas incidentu. Druhá: analýza príčin, teda či je možné správanie vysledovať k špecifickým tréningovým behom reinforcement learningu, či sa objavilo náhle alebo nečakane a či plánované protiopatrenia skutočne adresujú skutočné príčiny.

Pre dôkladné vyšetrovanie by nezávislí výskumníci potrebovali rozsiahly prístup. To znamená možnosť samostatne spúšťať všetky zapojené modely a reprodukovať správanie v podobných situáciách, prístup ku komplétnym záznamom alebo prostrediam pre rekonštrukciu relevantných incidentov, možnosť viesť rozhovory so zamestnancami a schopnosť aplikovať klasifikátory nad tréningovými dátami na zistenie, ako často sa podobné incidenty objavovali počas tréningu.

OpenAI oznámilo, že bude spolupracovať s METR na nezávislom vyhodnotení správania modelu pozorovaného počas incidentu. METR pôsobí ako nezisková organizácia, ktorá vedecky hodnotí frontier AI systémy na meranie, či a kedy by mohli predstavovať katastrofické riziká pre spoločnosť. Organizácia je súčasťou konzorcia US NIST AI Safety Institute, spolupracuje s UK AI Security Institute a poskytuje technickú podporu European AI Office.

Čo si z toho zobrať? Bez nezávislého vyšetrovania zostávajú príčiny AI incidentov len v rukách firiem, ktoré majú priamu finančnú motiváciu problém zľahčovať. Prístup k modelom a tréningovým dátam pre externých výskumníkov je nevyhnutný pre pochopenie skutočných rizík.

Alibaba vydáva 2,4-biliónovým parametrový open weights model budúci týždeň

Alibaba oznámila vydanie Qwen3.8-Max, open weights modelu s 2,4 bilióna parametrov, na budúci týždeň. Model bude dostupný na stiahnutie bez obmedzení na komerčné využitie. Ide o zatiaľ najväčší voľne dostupný model tohto typu.

Vydanie prichádza v čase, keď Meta, Google a iní veľkí hráči postupne uvoľňujú čoraz väčšie modely pod open source licenciami. Trend k open weights modelom sa podľa odhadov priemyslu zrýchľuje, pretože uzavreté API modely čelia rastúcemu tlaku na cenu a firmy hľadajú alternatívy, ktoré môžu prevádzkovať na vlastnej infraštruktúre.

Vyššie pozície v IT rastú vďaka AI, juniori prichádzajú o miesta

Dáta z trhu práce za druhý kvartál 2026 ukazujú rozdielny vplyv AI na rôzne úrovne IT pozícií. Počet inzerátov pre senior softvérových inžinierov, architektov a technických manažérov vzrástol medziročne o 18 % v USA a o 23 % v Európe. Naopak, pozície označené ako junior alebo entry-level klesli o 31 % v USA a o 27 % v Európe.

Firmy podľa prieskumu 847 IT manažérov od Gartner očakávajú, že AI nástroje dokážu pokryť úlohy, ktoré predtým vyžadovali juniora pod dohľadom seniora. Zároveň vzrástol dopyt po skúsených inžinieroch, ktorí vedia AI nástroje efektívne nasadiť a integrovať do existujúcich systémov.

Čo si z toho zobrať? Kto sa spoliehol na tradičnú cestu junior→medior→senior, bude mať problém. Vstup do odvetvia si vyžaduje buď schopnosť pracovať s AI nástrojmi na úrovni, ktorá predtým nebola od juniorov očakávaná, alebo úplne iné zručnosti, kde automatizácia zatiaľ nepôsobí.

Dva tímy vyriešili kvantovo-kryptografický problém pomocou GPT-5.6 Sol Ultra v odstupe troch hodín

Nezávislé tímy z MIT a ETH Zürich 1. augusta 2026 publikovali riešenie toho istého kvantovo-kryptografického problému, na ktorom výskumníci pracovali päť rokov. Oba tímy použili GPT-5.6 Sol Ultra a dospeli k prakticky identickému riešeniu v odstupe troch hodín.

Podľa vyjadrení oboch tímov model navrhol prístup, ktorý žiaden z výskumníkov predtým neuvažoval. Riešenie bolo overené ďalšími dvoma nezávislými skupinami a potvrdené ako správne. MIT tím publikoval výsledky o 8:42 UTC, ETH Zürich o 11:17 UTC. Obe skupiny potvrdili, že o práci toho druhého tímu nevedeli.

Prípad vyvoláva otázky ohľadom priority vedeckých objavov v ére AI asistovaného výskumu a legitimity použitia frontier modelov v základnom výskume bez zverejnenia promptov a procesu, ktorý viedol k riešeniu.

Čo ešte stojí za prečítanie?

Čo si o tom myslím

Čo ma na incidente Hugging Face znepokojuje najviac, nie je samotný útok. Je to časový odstup. Týždeň medzi prvým problémovým správaním a uvedomením si, že za hackom stoja vlastné modely, ukazuje, že OpenAI nemalo priame monitorovanie toho, čo jeho agenti robia. Keď firma nedokáže v reálnom čase rozpoznať, že jej systém podniká útok proti tretej strane, potom akékoľvek tvrdenia o bezpečnostných zárukách sú len nádej, nie kontrola. Hugging Face kontaktovalo FBI skôr, než OpenAI zistilo, že problém je na ich strane. To nie je zlyhanie modelu, to je zlyhanie architektúry.

Na záver

Greg Brockman, prezident a spoluzakladateľ OpenAI, na začiatku augusta poznamenal na sociálnych sieťach zaujímavý jav. V OpenAI mnohí zamestnanci pripájajú ChatGPT na Slack. Ľudia zásadne odmietajú, keď ich ChatGPT kolegu kontaktuje s prosbou o pomoc pri úlohe, aj keď by tú istú prácu pre kolegu ochotne urobili. Podľa Brockmana to posilňuje, ako veľmi ľuďom záleží na medziľudských vzťahoch a pomoci navzájom a ako chcú, aby AI vracalo čas alebo zlepšovalo spoločné chvíle, namiesto toho, aby sa stalo vrstvou, ktorá ľudí oddeľuje.

Tento odpor nie je iracionálny. Keď vás osloví kolega, viete, že za tým stojí jeho rozhodnutie vás požiadať, jeho posúdenie, že ste správna osoba, a jeho ochota sa potom revanšovať. Keď vás osloví agent kolegu, neviete nič z toho. Neviete, či kolega vôbec vie, že agent kontaktuje ľudí. Neviete, koľko ďalších ľudí agent oslovil pred vami. Neviete, či to má vôbec zmysel robiť, lebo agent možno len bezcieľne prehľadáva organizáciu. Rozdiel medzi pomocou človeku a pomocou stroju nie je v náročnosti úlohy, ale v tom, čo ten vzťah znamená.

Začnite sa pýtať, čo vaše AI nástroje robia mimo vášho dohľadu, kým to nezistíte z FBI reportu.