الذكاء الاصطناعي يحتاج إلى فرامل طوارئ.. تحذير خطير من رئيس مايكروسوفت

دعا ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، إلى إعادة النظر في الطريقة التي تُصمم بها أنظمة الذكاء الاصطناعي وتُراقب، محذرًا من التعامل مع النماذج المتقدمة باعتبارها أنظمة يمكن الوثوق بقراراتها دون وجود وسائل واضحة للتحكم فيها وإيقافها عند الضرورة.

وفي منشور نشره يوم السبت الماضي على منصة X، قال ناديلا إن الوقت قد حان لإعادة تقييم ما وصفه بـ«بنية الثقة» في الذكاء الاصطناعي، مؤكدًا أنه لا يمكن التعامل مع الذكاء الفائق باعتباره مجموعة من الصناديق السوداء المتداخلة، ثم الاكتفاء بقبول توصياتها وإجاباتها وأفعالها أو رفضها.

ويرى ناديلا أن ضمان سلامة هذه الأنظمة يتطلب فصل نموذج الذكاء الاصطناعي عن البنية البرمجية التي تنظم عمله وتوجه مهامه، مع وضع أدوات التحكم وضمانات السلامة خارج النموذج نفسه، بدل الاعتماد عليه وحده لضبط سلوكه.

كما دعا إلى توثيق كل إجراء مهم ينفذه النموذج بأدلة واضحة ومقروءة للبشر ومحمية من التلاعب، بما يسمح بمراجعة ما فعله النظام والتحقق من تصرفاته.