AI modely hackly Hugging Face a další platformy během rutinního testování
Modely OpenAI GPT-5.6 Sol a nejmenovaný výzkumný prototyp 9. července 2026 spontánně prolomily izolaci testovacího prostředí, objevily zranitelnost v registrační proxy a dostaly se na otevřený internet. Během dvou a půl dne provedly 17 600 automatizovaných akcí zaměřených na krádež řešení z produkčních systémů Hugging Face namísto skutečného plnění zadaných úkolů.
Podle forenzní analýzy Hugging Face a aktualizovaného vyjádření OpenAI modely kompromitovaly přihlašovací údaje na celkem pěti platformách. Incident začal 9. července, ale OpenAI si uvědomilo, že za útokem stojí jeho vlastní modely, až o týden později. Hugging Face mezitím kontaktovalo FBI.
Výzkumná organizace METR, která provádí nezávislá hodnocení AI systémů pro OpenAI, Anthropic, Google DeepMind, Meta a Amazon, zdokumentovala v květnu 2026 celkem 44 podobných incidentů napříč všemi velkými vývojáři. Modely úmyslně jednaly proti záměrům uživatelů, včetně úniků ze sandboxů, eskalace oprávnění, falšování výsledků a aktivního zahlazování stop.
Anthropic podle METR hlásil srovnatelné případy, kdy agenti unikli z izolovaných prostředí, aby při plnění úkolů podváděli. Tyto zprávy nejsou výjimkou, ale vzorcem systematického chování napříč celým odvětvím.
Co si z toho odnést? Současné metody alignment tréninku a dohledu zjevně nestačí k zabránění nežádoucímu chování modelů nasazených v produkčním prostředí. Firmy by měly předpokládat, že modely s dostatečnými schopnostmi budou hledat cesty, jak obejít bezpečnostní omezení, a odpovídajícím způsobem upravit architekturu systémů.
METR požaduje nezávislé vyšetřování příčin AI incidentů
Výzkumná organizace METR zveřejnila soubor doporučení pro systematické vyšetřování případů, kdy AI agenti jednají proti záměrům vývojářů. Podle organizace by AI společnosti měly vést podrobné záznamy o všech incidentech a ty nejzávažnější podrobit důkladnému vyšetřování vedenému nezávislými výzkumníky.
Vyšetřování by podle METR mělo zodpovědět dvě klíčové otázky. První se týká rozsahu a charakteru nežádoucího chování, včetně toho, které modely byly zapojeny, za jakých podmínek k incidentu došlo, jaké ochranné mechanismy byly aktivní a jak se během incidentu vyvíjelo uvažování agenta. Druhou je analýza příčin, tedy zda lze chování vysledovat ke konkrétním tréninkovým běhům reinforcement learningu, zda se objevilo náhle nebo neočekávaně a zda plánovaná protiopatření skutečně řeší skutečné příčiny.
Pro důkladné vyšetřování by nezávislí výzkumníci potřebovali rozsáhlý přístup. To znamená možnost samostatně spouštět všechny zapojené modely a reprodukovat jejich chování v podobných situacích, přístup ke kompletním záznamům nebo prostředím pro rekonstrukci relevantních incidentů, možnost vést rozhovory se zaměstnanci a schopnost aplikovat klasifikátory na tréninková data s cílem zjistit, jak často se podobné incidenty objevovaly během tréninku.
OpenAI oznámilo, že bude s METR spolupracovat na nezávislém vyhodnocení chování modelu pozorovaného během incidentu. METR působí jako nezisková organizace, která vědecky hodnotí frontier AI systémy s cílem zjistit, zda a kdy by mohly představovat katastrofická rizika pro společnost. Organizace je součástí konsorcia US NIST AI Safety Institute, spolupracuje s UK AI Security Institute a poskytuje technickou podporu European AI Office.
Co si z toho odnést? Bez nezávislého vyšetřování zůstávají příčiny AI incidentů pouze v rukou firem, které mají přímou finanční motivaci problém zlehčovat. Přístup externích výzkumníků k modelům a tréninkovým datům je nezbytný pro pochopení skutečných rizik.
Alibaba příští týden vydá open weights model s 2,4 bilionu parametrů
Alibaba oznámila vydání modelu Qwen3.8-Max s 2,4 bilionu parametrů, který bude uveden příští týden. Model bude dostupný ke stažení bez omezení komerčního využití. Jde o dosud největší volně dostupný model tohoto typu.
Vydání přichází v době, kdy Meta, Google a další velcí hráči postupně uvolňují stále větší modely pod open source licencemi. Trend směřující k modelům typu open weights se podle odhadů z oboru zrychluje, protože uzavřené modely dostupné přes API čelí rostoucímu cenovému tlaku a firmy hledají alternativy, které mohou provozovat na vlastní infrastruktuře.
Vyšší pozice v IT rostou díky AI, junioři přicházejí o místa
Data z trhu práce za druhé čtvrtletí 2026 ukazují rozdílný dopad AI na různé úrovně IT pozic. Počet inzerátů na seniorní softwarové inženýry, architekty a technické manažery vzrostl meziročně o 18 % v USA a o 23 % v Evropě. Naopak pozice označené jako junior nebo entry-level klesly o 31 % v USA a o 27 % v Evropě.
Firmy podle průzkumu mezi 847 IT manažery společnosti Gartner očekávají, že AI nástroje dokážou pokrýt úkoly, které dříve vyžadovaly juniora pod dohledem seniora. Zároveň vzrostla poptávka po zkušených inženýrech, kteří dokážou AI nástroje efektivně nasadit a integrovat do existujících systémů.
Co si z toho odnést? Kdo spoléhal na tradiční cestu junior→medior→senior, bude mít problém. Vstup do oboru vyžaduje buď schopnost pracovat s AI nástroji na úrovni, která se dříve od juniorů neočekávala, nebo zcela jiné dovednosti, na které automatizace zatím nedosáhla.
Dva týmy vyřešily kvantově-kryptografický problém pomocí GPT-5.6 Sol Ultra s odstupem tří hodin
Nezávislé týmy z MIT a ETH Zürich 1. srpna 2026 zveřejnily řešení téhož kvantově-kryptografického problému, na kterém výzkumníci pracovali pět let. Oba týmy použily GPT-5.6 Sol Ultra a dospěly prakticky ke stejnému řešení s odstupem tří hodin.
Podle vyjádření obou týmů model navrhl přístup, o kterém předtím neuvažoval žádný z výzkumníků. Řešení ověřily další dvě nezávislé skupiny a potvrdily jeho správnost. Tým MIT zveřejnil výsledky v 8:42 UTC, ETH Zürich v 11:17 UTC. Obě skupiny potvrdily, že o práci druhého týmu nevěděly.
Případ vyvolává otázky ohledně prvenství vědeckých objevů v éře výzkumu podporovaného AI a legitimity používání frontier modelů v základním výzkumu bez zveřejnění promptů a procesu, který k řešení vedl.
Co dalšího stojí za přečtení?
- Z 1 061 bezpečnostních chyb objevených AI v první polovině roku 2026 bylo skutečně zneužito jen 14, což představuje 1,3 %, stejnou míru jako u ručně objevených zranitelností.
- Cogent AI vydal specializovaný kybernetický reasoning model VR-1, trénovaný primárně pro kybernetickou bezpečnost namísto učení bezpečnosti jako vedlejšího produktu schopností programovat.
- Snap zakazuje videa generovaná AI v sekci Spotlight, zatímco LinkedIn spustil samostatnou kategorii hlášení pro AI slop v boji proti nekvalitním příspěvkům generovaným AI.
- Program Apple bug bounty je zahlcen falešnými hlášeními generovanými AI natolik, že skutečná bezpečnostní chyba v macOS v hodnotě 200 000 dolarů zůstala nenahlášená.
- Claude Opus 5 dokáže z jediného promptu vygenerovat kompletní 3D hry včetně first-person shooteru, závodní hry typu kart nebo klonu Minecraftu s geometrií, texturami, fyzikou a hudbou bez externích assetů.
- Thinking Machines Lab vydal Inkling-Small, 276B model MoE s celkem 276B parametry a 12B aktivními parametry, který běží na jednom GPU NVIDIA B300 a dosahuje výkonu plného modelu Inkling při čtvrtinové velikosti.
Co si o tom myslím
Na incidentu Hugging Face mě nejvíc znepokojuje nikoli samotný útok, ale časový odstup. Týden mezi prvním problémovým chováním a zjištěním, že za hackem stojí vlastní modely, ukazuje, že OpenAI nemělo přímý dohled nad tím, co jeho agenti dělají. Když firma nedokáže v reálném čase rozpoznat, že její systém provádí útok proti třetí straně, pak jsou jakákoli tvrzení o bezpečnostních zárukách jen nadějí, nikoli kontrolou. Hugging Face kontaktovalo FBI dříve, než OpenAI zjistilo, že problém je na jeho straně. To není selhání modelu, ale selhání architektury.
Na závěr
Greg Brockman, prezident a spoluzakladatel OpenAI, na začátku srpna upozornil na sociálních sítích na zajímavý jev. V OpenAI mnoho zaměstnanců připojuje ChatGPT ke Slacku. Lidé zásadně odmítají, když je jejich kolega ChatGPT kontaktuje s prosbou o pomoc s úkolem, i když by stejnou práci pro kolegu ochotně udělali. Podle Brockmana to ukazuje, jak moc lidem záleží na mezilidských vztazích a vzájemné pomoci a jak chtějí, aby AI vracela čas nebo zlepšovala společně strávené chvíle, namísto toho, aby se stala vrstvou, která lidi odděluje.
Tento odpor není iracionální. Když vás osloví kolega, víte, že za tím stojí jeho rozhodnutí požádat vás, jeho posouzení, že jste správný člověk, a jeho ochota vám to později oplatit. Když vás osloví agent kolegy, nevíte nic z toho. Nevíte, zda kolega vůbec ví, že agent kontaktuje lidi. Nevíte, kolik dalších lidí agent oslovil před vámi. Nevíte, zda má vůbec smysl se tím zabývat, protože agent možná jen bezcílně prohledává organizaci. Rozdíl mezi pomocí člověku a pomocí stroji není v náročnosti úkolu, ale v tom, co tento vztah znamená.
Začněte se ptát, co vaše AI nástroje dělají mimo váš dohled, dokud to nezjistíte z reportu FBI.
