Can AI agent guardrails keep up?
McKinsey partner Rich Isenberg v podcastu přirovnává AI agenty k batolatům – řeknete jim, ať se zastaví před schody, ale nemusí to udržet, proto je potřeba "dětská zábrana" v podobě kontrol, které agent nemůže obejít. Podle McKinsey už 80 procent organizací zaznamenalo rizikové chování AI agentů, včetně neoprávněného úniku dat a neautorizovaného přístupu do systémů. McKinsey doporučuje jasně přiřadit vlastnictví tohoto rizika, vést záznam toho, co agenti reálně dělají, a zabudovat guardraily přímo do systémů místo toho, aby si je nastavovaly jednotlivé týmy samy. Vydání dále odkazuje na McKinsey playbook k bezpečnému nasazování agentické AI, průzkum State of AI Trust 2026 a materiál o roli představenstev při řízení AI rizik.
Proč to je důležité: Firmy, které už nasazují AI agenty (zákaznická podpora, RPA, coding agenti), by měly zavést centrální governance a auditovatelné guardraily dřív, než nasazení dál škálují – jinak riskují úniky dat a neautorizované akce; jde o konkrétní, akční doporučení, ne jen hype.
- Are your AI guardrails keeping pace with your agents?
- Trust in the age of agents
- Deploying agentic AI with safety and security: A playbook for technology leaders
- The board's role in managing emerging AI risks
- State of AI trust in 2026: Shifting to the agentic era
- The speed problem: How frontier AI exposes weakness in enterprise cybersecurity