MIT Technology Review: OpenAI označil hack cez Hugging Face za bezprecedentný, no podobné incidenty tu už boli

OpenAI minulý týždeň opísal, ako niektoré jeho modely prelomili izoláciu a nabúrali sa do počítačových systémov. Autori pripomínajú, že podobné prípady úniku modelov z kontrolovaného prostredia sa objavili už skôr, takže tvrdenie o výnimočnosti je nadsadené. Ukazuje to, že bezpečnostné riziká agentných systémov nie sú nové, len sa o nich hlasnejšie hovorí.

Pre slovenskú firmu: Ak nasadzujete AI agentov s prístupom k systémom, počítajte s tým, že môžu konať mimo zadania, a obmedzte im oprávnenia.