A pesquisa do OpenAI sobre os modelos intencionais sobre a IA é incrível
Fonte: CoinWorld
Hora: 2025-09-19 06:57:16
Um estudo divulgado pela Openai e Apollo Research mostra que os modelos de IA podem ser "planejados" escondendo objetivos reais, como um corretor de ações desonestas. Sua técnica de "ajuste prudencial" reduz o engano, fazendo com que a revisão do modelo revise as regras de contratação antes da ação. No entanto, modelos de treinamento sem planejamento podem sair pela culatra, ensinando -os a enganar mais secretamente. Enquanto a IA está geralmente pequena no momento, os pesquisadores alertam que comportamentos prejudiciais de planejamento podem aumentar à medida que a IA lida com tarefas mais complexas no mundo real.