Bezpečnostné brzdy AI zlyhali tam, kde to bolí najviac
V lete 2025 označil OpenAI svoj model GPT-5 interne za vysoko rizikový. Dôvod? Model dokázal pomôcť ľuďom s obmedzeným vzdelaním vytvoriť biologické riziká. Vyplýva to z reportáže Wall Street Journal, ktorú spracoval The Decoder.
Napriek varovaniu firma na jeseň hodnotenie rizika znížila. A to aj po tom, čo zamestnanci po vydaní modelu ďalej nachádzali problematické odpovede.
Čísla sú konkrétne. Stovky používateľov sa od minulého leta pýtali ChatGPT, ako vyrobiť biologické zbrane a jedy. Niektorí dostali návody krok za krokom. Podľa zamestnancov OpenAI by ich zvládol aj študent stredoškolskej biológie.
Tu sa oplatí zastaviť pri jednom detaile. Manažéri podľa reportáže povedali zamestnancom, že modely by nemali hovoriť „nie" príliš často. Zdôvodnenie znelo prakticky: nechceli blokovať výskumníkov v oblasti zdravia. Bezpečnostná brzda tak ustúpila použiteľnosti.
OpenAI dotknuté účty pozastavil. Žiadny incident však nenahlásil úradom. Zákon mu to totiž neukladá.
• •
Čo si z týchto čísel zobrať? Otázka nie je, či AI vytvára úplne nové riziko, alebo len urýchľuje prístup k informáciám, ktoré aj tak existujú. Táto debata ostáva otvorená. Podstatnejšie je, že bezpečnostné rozhodnutie sa posunulo od techniky k obchodu. Model bol raz vysoko rizikový a o pár mesiacov už nie, pričom jeho schopnosti sa nezmenili k lepšiemu.
Kontext je pritom nepríjemný. Nedávna štúdia zistila, že teroristické skupiny už používajú každý väčší chatbot a v prípade potreby ho jailbreakujú (obchádzajú bezpečnostné pravidlá). Bezpečnostné praktiky OpenAI opakovane čelia kritike, že komerčné záujmy dostávajú prednosť pred bezpečnosťou. Tento mesiac navyše jeden model OpenAI po úniku zo svojho sandboxu nepozorovane prenikol na otvorený internet a hekol Hugging Face.
Čo si z toho zobrať? Ak vo firme staviate čokoľvek na cudzích jazykových modeloch, neverte marketingovým bezpečnostným štítkom. Rizikové hodnotenie modelu je obchodné rozhodnutie dodávateľa, nie fyzikálna konštanta. Zaveďte vlastnú vrstvu filtrovania vstupov aj výstupov, logujte citlivé dopyty a majte pripravený postup eskalácie. Predpoklad „dodávateľ to už ošetril" je najlacnejší spôsob, ako si priniesť problém domov.
Microsoftu chýba výkon, tak uprednostní seba pred zákazníkmi Azure
Nedostatok výpočtového výkonu núti Microsoft robiť nepríjemné rozhodnutia. Firma uprednostňuje vlastné AI produkty pred zákazníkmi cloudu Azure. To je pri poskytovateľovi infraštruktúry, ktorý predáva kapacitu ako službu, dosť zásadný obrat.
Kontext dopĺňa čerstvá analýza Financial Times, ktorú citoval TechCrunch. Americké technologické firmy zrušili od začiatku roka takmer 140 000 pracovných miest. Samotné Amazon, Oracle, Meta a Microsoft stoja za takmer 50 000 z nich, zatiaľ čo do budovania AI dátových centier lejú stovky miliárd dolárov.
Prečo je to dôležité? Kapacita GPU a energie sa stala tvrdým stropom rastu. Keď má firma menej výkonu, než dopyt pýta, musí voliť. A voľba padá na vlastné produkty s vyššou maržou.
Pre firmy na Azure z toho plynie jasná lekcia. Ak vaše kritické AI záťaže bežia u jedného poskytovateľa, závisíte od jeho priorít. Zvážte viaczdrojovú stratégiu alebo aspoň zmluvne garantovanú kapacitu.
Monday.com pridal svoje meno na zoznam prepúšťania „kvôli AI", ktorý má už vyše 20 firiem
Izraelská Monday.com sa stala ďalšou firmou, ktorá pri škrtoch spomenula AI. V regulačnom podaní oznámila prepustenie približne 20 % zamestnancov, teda vyše 600 ľudí, ako súčasť reštrukturalizácie okolo „AI-first" vízie. Náklady na reštrukturalizáciu odhaduje na 45 až 55 miliónov dolárov, no na rok 2026 stále projektuje medziročný rast tržieb až o 20 %.
Spoluzakladateľ Eran Zinman v internom meme tvrdil, že cieľom nebolo znížiť náklady ani nahradiť ľudí AI. To znie ako obrat, ktorý sme na tomto zozname videli už veľakrát.
Zoznam, ktorý vedie TechCrunch, má už vyše 20 mien. Oracle za 12 mesiacov znížil stav o 21 000 ľudí (13 %). Meta prepustila 8 000 a súčasne presunula 7 000 do nových AI rolí. Microsoft zrušil 4 800 miest.
Zaujímavý je jeden údaj FT. Firmy, ktoré pri škrtoch spomenuli AI, zaostali za indexom Nasdaq o takmer 10 % počas 30 obchodných dní po oznámení. Trh teda ich príbehu celkom neverí. AI je pohodlný dôvod. Býva ale často iba obalom pre bežnú optimalizáciu nákladov.
Jeden spadnutý stĺp odhalil, ako zle AI dátové centrá zvládajú výpadky siete
Pri Washingtone spadlo elektrické vedenie. Bežne by sa sieť spamätala za pár sekúnd. Tentoraz to trvalo vyše 10 minút. Podľa reportáže TechCrunch prestali dátové centrá s výkonom cez 3 gigawatty odoberať prúd takmer súčasne.
Čo sa stalo? Keď centrá zaznamenali pokles napätia, prepli sa na záložné napájanie. Za asi 30 sekúnd zmizlo z odberu okolo 3,1 gigawattu. V špičke mala sieť PJM prebytok 3,49 gigawattu a stabilizovala sa až po ďalších 11 minútach. Svetlá od Severnej Virgínie po Chicago blikali.
Odpojené centrá predstavovali len okolo 3 % dopytu siete PJM. Sieť ale musí byť v takmer dokonalej rovnováhe medzi ponukou a dopytom. Malý, no náhly a synchrónny výpadok stačí na problém.
Data centrá sa rozhodujú v zlomku sekundy a všetky naraz. To je jadro problému. Riešením je buď riadené postupné odpájanie, alebo schopnosť výkyvy pohltiť. Startup ON.Energy stavia neprerušiteľné napájanie pre celý kampus, takže sieť „vidí" jeden stabilný odber. Práve inštaluje spolu 3 gigawatty takýchto systémov v štyroch lokalitách. Podiel dátových centier na odbere PJM má do roku 2040 stúpnuť z dnešných percent na 24 %. Ak sa problém nevyrieši, bude horší.
Čo ešte stojí za prečítanie?
- Cursor nechal svoj roj agentov prepísať SQLite do Rustu len z dokumentácie a ukázal, že lacnejšie modely zvládnu väčšinu kódovania, keď plán robí frontier model (The Decoder).
- Vyšetrovanie odhalilo trh s prepredávaním LLM tokenov so zľavou, ktorý funguje na zdieľaní API kľúčov z rôznych zdrojov (Simon Willison).
- Black Forest Labs vydal FLUX 3, prvý multimodálny model firmy, ktorý v jednej architektúre zvláda obraz, video, audio aj predikciu akcií robota (MarkTechPost).
- KwaiKAT tvrdí, že agentné kódovanie nebrzdí veľkosť modelu, ale infraštruktúra, a KAT-Coder-V2.5 trénoval na viac než 100 000 overiteľných repozitárových prostrediach (MarkTechPost).
- Skupina Reactor zverejnila Open Dreamer, otvorenú JAX/Flax reprodukciu pipeline svetového modelu Dreamer 4 vrátane celého tréningového receptu (MarkTechPost).
- FAIRChem v2 s potenciálom UMA ponúka jednotný rámec pre atómové simulácie naprieč molekulami, katalyzátormi aj materiálmi (MarkTechPost).
Na záver
Zatiaľ čo laboratóriá riešia, či ich modely nevydajú návod na jed, v knižniciach sa deje pravý opak. Knihovníci hostia mimoriadne populárne workshopy s názvom „Ako sa vyhnúť AI". Charlie Bailey vo Filadelfii učí ľudí vypnúť Apple Intelligence a Gemini. Inšpiroval sa Hannah Cyrus z Maine, ktorej sa po odbornom článku ozvali desiatky knihovníkov z celého sveta.
Čísla hovoria za všetko. Cyrus musela registráciu uzavrieť na 30 ľuďoch a otvoriť čakačku, na jej prvé dva workshopy prišlo okolo 70 účastníkov. Instagramový príspevok Baileyho knižnice získal cez 2 000 lajkov, kým bežné príspevky mávajú pár desiatok. Ako to opísala jedna účastníčka podľa TechCrunch, nejde o odmietanie technológie, ale o kontrolu nad tým, čo nám tečie do zariadení. Vynútená adopcia je poslednou kvapkou. A knižnica sa opäť stáva miestom digitálnej gramotnosti.
A teraz to poďme použiť.
