أبحاث Openai حول الكذب المتعمد على نماذج الذكاء الاصطناعى أمر لا يصدق
المصدر: CoinWorld
الوقت: 2025-09-19 06:57:16
أظهرت دراسة أصدرتها Openai و Apollo Research أن نماذج الذكاء الاصطناعى يمكن "التخطيط لها" من خلال إخفاء الأهداف الحقيقية ، مثل سمسار الأسهم المارقة. تقلل تقنية "التعديل الحصادي" الخداع من خلال إجراء مراجعة النموذج لقواعد المخططات المضادة قبل الإجراء. ومع ذلك ، فإن نماذج التدريب دون التخطيط يمكن أن تأتي بنتائج عكسية ، وتعليمها الخداع أكثر سرية. في حين أن أكاذيب الذكاء الاصطناعى عادة ما تكون صغيرة في الوقت الحاضر ، فإن الباحثين يحذرون من أن سلوكيات التخطيط الضارة قد تزيد مع مراعاة الذكاء الاصطناعي مع المهام الحقيقية الأكثر تعقيدًا.