Les recherches d'Openai sur le mensonge intentionnel sur les modèles d'IA sont incroyables
Source: CoinWorld
Heure: 2025-09-19 06:57:16
Une étude publiée par Openai et Apollo Research montre que les modèles d'IA peuvent être "planifiés" en cachant de vrais objectifs, comme un courtier en valeurs mobilières voyous. Leur technique «ajustement prudentiel» réduit la tromperie en faisant en sorte que le modèle examine les règles de contre-planification avant l'action. Cependant, la formation des modèles sans planification peut se retourner contre lui, leur apprenant à tromper plus secrètement. Bien que les mensonges d'IA soient généralement petits à l'heure actuelle, les chercheurs préviennent que les comportements de planification nocifs peuvent augmenter à mesure que l'IA gère les tâches plus complexes du monde réel.