Archiv

Can AI agent guardrails keep up?

McKinsey partner Rich Isenberg v podcastu přirovnává AI agenty k batolatům – řeknete jim, ať se zastaví před schody, ale nemusí to udržet, proto je potřeba "dětská zábrana" v podobě kontrol, které agent nemůže obejít. Podle McKinsey už 80 procent organizací zaznamenalo rizikové chování AI agentů, včetně neoprávněného úniku dat a neautorizovaného přístupu do systémů. McKinsey doporučuje jasně přiřadit vlastnictví tohoto rizika, vést záznam toho, co agenti reálně dělají, a zabudovat guardraily přímo do systémů místo toho, aby si je nastavovaly jednotlivé týmy samy. Vydání dále odkazuje na McKinsey playbook k bezpečnému nasazování agentické AI, průzkum State of AI Trust 2026 a materiál o roli představenstev při řízení AI rizik.

Proč to je důležité: Firmy, které už nasazují AI agenty (zákaznická podpora, RPA, coding agenti), by měly zavést centrální governance a auditovatelné guardraily dřív, než nasazení dál škálují – jinak riskují úniky dat a neautorizované akce; jde o konkrétní, akční doporučení, ne jen hype.

• Are your AI guardrails keeping pace with your agents?
• Trust in the age of agents
• Deploying agentic AI with safety and security: A playbook for technology leaders
• The board's role in managing emerging AI risks
• State of AI trust in 2026: Shifting to the agentic era
• The speed problem: How frontier AI exposes weakness in enterprise cybersecurity

Agent Identity (Agent Id) governance Framework for Copilot Studio Agents

Článek popisuje, že Copilot Studio automaticky vytváří pro každého agenta samostatnou Agent Identity (Agent ID) v Microsoft Entra, a to pod nadřazenou strukturou nazvanou Microsoft Copilot Studio agent identity blueprint. Tyto identity fungují jako service principals se speciálním podtypem „Agent“ a umožňují agentům bezpečně se autentizovat vůči kanálům (Teams, Copilot, Direct Line) i dalším službám na principech Zero Trust, přičemž používají standardní OAuth flow. Autorka nabízí ke stažení editovatelné architektonické diagramy pro governance rámec identit agentů a pro správu connector a API oprávnění, které mají firmám pomoci nastavit správu životního cyklu agentů na podnikové úrovni.

Proč to je důležité: Pro firmy nasazující AI agenty ve větším měřítku jde o konkrétní vodítko, jak řídit identity, oprávnění a přístupy agentů tak, aby nevznikalo bezpečnostní riziko typu stínové IT; relevantní zejména pro organizace používající Microsoft 365 a Copilot Studio.

Why risk management needs more integration

OneTrust vydal Integrated Risk Maturity Playbook, sérii webinářů popisujících model zralosti řízení rizik od roztříštěných programů až po integrovaný přístup, který zrychluje byznys. Firmy dnes typicky řeší rizika třetích stran, IT rizika a compliance v oddělených nástrojích a tabulkách, takže nikdo nemá celkový přehled. AI adopce znásobila počet dodavatelů, modelů a systémů s přístupem k citlivým datům, zatímco regulační rámce (DORA, NIS2, EU AI Act) přibývají a týmy zůstávají stejně velké.

Proč to je důležité: Pro české B2B firmy jde o praktický rámec, jak si srovnat roztříštěné řízení rizik před tím, než na ně dopadnou audity podle DORA, NIS2 nebo EU AI Act – jde spíš o edukativní obsah dodavatele než o okamžitě nasaditelnou technologii.

• OneTrust: Integrated Risk Maturity Playbook (webinar series)