Underwriting Superintelligence: Backing Agents you can Sue — Rune Kvist, AIUC
Latent Space přináší rozhovor s Rune Kvistem, spoluzakladatelem AIUC (Artificial Intelligence Underwriting Company), který oznamuje sérii A ve výši 40 milionů dolarů vedenou Ribbit Capital a First Harmonic. AIUC buduje standard AIUC-1 pro bezpečnost, spolehlivost a odolnost AI agentů vůči jailbreakům, halucinacím a úniku dat, a propojuje ho s pojištěním od Lloyd's of London. Mezi zákazníky patří Cursor, Harvey, Lovable a ElevenLabs, kteří potřebují doložit důvěryhodnost agentů při nasazení u bank, nemocnic a dalších konzervativních institucí. Kvist, bývalý první product hire Anthropicu, tvrdí, že hlavní brzdou adopce AI už není schopnost modelů, ale důvěra a odpovědnost za jejich selhání.
Proč to je důležité: Pro firmy nasazující AI agenty ukazuje vznikající trh standardů a pojištění jako nástroj, jak snížit právní a provozní riziko a urychlit schvalování AI projektů u konzervativních zákazníků a regulátorů.