Irrégulet augmente 80 millions de dollars pour protéger les modèles d'IA de pointe

La société de sécurité de l'IA Irréguleuse a levé 80 millions de dollars dans une série de financement dirigée par Sequoia Capital et Red Dot Ventures, et le PDG de l'assistant Assaf Rappaport a également été impliqué, l'évaluation de la société atteignant 450 millions de dollars. La société, anciennement connue sous le nom de Pattern Labs, se concentre sur la détection des risques émergents de l'IA par des environnements simulés (l'IA agit à la fois comme un attaquant et un défenseur). Son cadre de résolution est largement utilisé pour évaluer les vulnérabilités du modèle, et ses résultats sont cités dans l'évaluation de la sécurité des modèles Claude 3.7 Sonnet et OpenAI. Le co-fondateur Dan Lahav met en évidence les défis de sécurité de plus en plus graves posés par l'interaction humaine-ordinateur et l'interaction IA.