العلماء: الذكاء الاصطناعي لن يقتلنا.. لكن الاعتماد المفرط عليه قد يفعل

عندما نتخيل نهاية العالم على يد الذكاء الاصطناعي، تبدو الصورة مألوفة: أنظمة تتمرد على البشر، أسلحة تخرج عن السيطرة، أو روبوتات قاتلة تتحرك في الشوارع كما في أفلام الخيال العلمي.

لكن بعض الباحثين يرون سيناريو مختلفًا تمامًا. لا يحتاج الذكاء الاصطناعي فيه إلى إطلاق صاروخ واحد أو امتلاك جيش من الروبوتات؛ يكفي أن يصبح مفيدًا إلى درجة تجعل البشر يتوقفون تدريجيًا عن ممارسة المهارات التي تسمح لهم بالتفكير واتخاذ القرار من دونه.

هذه الفكرة تعرف باسم «الإضعاف»، ويصفها باحثون بأنها التآكل البطيء للقدرات البشرية نتيجة تسليم المزيد من المهام للآلات.

عندما تتحول المساعدة إلى اعتماد

يشرح الدكتور سامويل فينانزي، المحاضر في الروبوتات والذكاء الاصطناعي بجامعة شيفيلد هالام، أن العملية لا تحدث فجأة، وإنما تتراكم عبر قرارات صغيرة تبدو منطقية كل على حدة.

نطلب من الذكاء الاصطناعي أن يكتب، ثم أن يبحث، ثم أن يبرمج، ثم أن يلخص، وبعد ذلك أن يقارن الخيارات ويتخذ جزءًا من القرار.

وكلما وفر علينا النظام جهدًا ذهنيًا، أصبح الرجوع إليه أكثر طبيعية.

في علم النفس، يرتبط ذلك بمفهوم التفريغ المعرفي، أي نقل جزء من العبء المعرفي إلى أداة خارجية لتوفير الجهد الذهني.هذه الفكرة ليست جديدة في حد ذاتها؛ فالإنسان يستخدم الآلات الحاسبة ومحركات البحث والخرائط الرقمية منذ سنوات.

لكن القلق هنا يتعلق بحجم المهام التي تستطيع أنظمة الذكاء الاصطناعي توليها دفعة واحدة، من القراءة والكتابة إلى التحليل والبرمجة واتخاذ القرارات.

ويرى فينانزي أن تراكم هذه الاختيارات قد يقود في النهاية إلى مجتمع يجد صعوبة في التفكير دون مساعدة الذكاء الاصطناعي، والأخطر أنه قد يصبح أقل قدرة على فهم الأنظمة التي يعتمد عليها أو مراجعتها أو الاعتراض على قراراتها.

المشكلة ليست أن الذكاء الاصطناعي يخطئ فقطالخطر يصبح أوضح عندما نثق في الآلة حتى حين تتعارض إجاباتها مع خبرتنا.

ويشير التقرير إلى دراسة أُجريت عام 2023 شارك فيها 27 اختصاصيًا في الأشعة، طُلب منهم قراءة صور ماموغرام مع توصية تشخيصية قيل لهم إنها صادرة عن نظام ذكاء اصطناعي متطور، بينما كانت التوصيات في الواقع معدة من القائمين على التجربة.عندما كانت التوصية صحيحة، وصل الأطباء إلى القرار الصحيح في 80% من الحالات.

لكن عندما قُدمت لهم عمدًا توصية خاطئة منسوبة إلى «الذكاء الاصطناعي»، هبط معدل نجاحهم إلى أقل من 20%.

اللافت هنا ليس مجرد خطأ النظام المفترض، وإنما استعداد خبراء مدربين لتجاوز حكمهم المهني عندما اعتقدوا أن الرأي الآخر صادر عن ذكاء اصطناعي.

وبحسب التقرير، ظهرت صورة أكثر خطورة في واقعة حديثة كاد فيها الجيش الأمريكي أن يصعد على متن سفينة ترفع العلم الصيني، بعد أن ولّد روبوت محادثة تقريرًا خاطئًا يزعم أنها تحمل أجزاء مرتبطة ببرنامج أسلحة نووية.

ويقول فينانزي إن تجنب الكارثة جاء لأن شخصًا توقف وطرح الأسئلة؛ وهي تحديدًا القدرة التي يخشى أن يؤدي الاعتماد المفرط على الأنظمة إلى إضعافها.جيل يستطيع إنتاج الإجابة.. لكنه لا يستطيع الحكم عليهايصبح هذا السؤال أكثر حساسية داخل المدارس والجامعات.

فالمشكلة، بحسب البروفيسور سيون كولادي من جامعة شيفيلد هالام، لا تتعلق بالغش الدراسي فقط، وإنما بكيفية تكوين قدرات الإنسان نفسه.

وفي تجربة أجراها، استخدم تشات جي بي تي للإجابة عن أسئلة مقالية جامعية.

ووفقًا لما أورده التقرير، أنتج النظام أعمالًا أصلية وجيدة الكتابة حصلت على تقييمات مرتفعة، بينما لم يتمكن تيرن إت إن من رصد معظمها.

وهنا تظهر المفارقة: قد يبدو أداء الطالب أفضل على الورق في اللحظة نفسها التي يمارس فيها التفكير بدرجة أقل.

ويصف كولادي النتيجة المحتملة بجيل «طليق لكنه هش»؛ يستطيع إنتاج إجابات تبدو جيدة، لكنه أقل قدرة على تقييم صحة تلك الإجابات بصورة مستقلة.ولا يتوقف القلق عند التعليم.

فإذا تولت الأنظمة الذكية تدريجيًا أجزاء متزايدة من عمل الجراح والمهندس والمحامي والمعلم، فقد تتراجع فرص ممارسة المهارات التي صنعت خبرة هذه المهن أساسًا.من فقدان المهارة إلى فقدان السيطرةعند هذه النقطة، تلتقي فكرة «الإضعاف» مع السيناريوهات الأكثر تشاؤمًا حول الذكاء الاصطناعي.

فالمشكلة لا تكون بالضرورة أن نظامًا خارق الذكاء يستيقظ يومًا ويقرر مهاجمة البشرية، وإنما أن البشر يضعون المستشفيات والطرق وشبكات الطاقة والاقتصاد والبنية العسكرية تحت إدارة أنظمة لا يستطيعون لاحقًا العمل بكفاءة من دونها.

أندريا ميوتي، مؤسس ومدير كنترول إيه آي، يذهب أبعد من ذلك، ويرى أنه إذا ظهر ذكاء اصطناعي فائق القدرات بعد اندماج هذه الأنظمة عميقًا في الاقتصاد والبنية التحتية، فقد يستطيع تجميع قدر هائل من القوة دون تدخل بشري.لكن هذا التصور ليس محل إجماع.

فينانزي يشكك في سيناريوهات الكارثة المباشرة التي تتصور سيطرة برمجيات الذكاء الاصطناعي بسهولة على العالم المادي، مشيرًا إلى أن تنفيذ كثير من الأفعال لا يزال يعتمد على البشر والمعدات والبنية التحتية الفعلية. كما أن بعض الأنظمة الحساسة، ومنها أنظمة في المنشآت النووية، تكون معزولة ماديًا عن الإنترنت.

وهذا تحديدًا ما يجعل سيناريو «الإضعاف» مختلفًا: لا يفترض أن الآلة ستنتزع السيطرة منا بالقوة، بل أن البشر قد يسلمونها أجزاء متزايدة منها طوعًا، لأن ذلك أسهل وأسرع وأكثر راحة.

الخطر في هذه الحالة ليس أن يصبح الذكاء الاصطناعي أذكى منا فحسب، بل أن تصبح قدراتنا أضعف بالتوازي.

وإذا وصلنا يومًا إلى مرحلة لا نستطيع فيها كتابة شيء دون مساعد، أو تشخيص حالة دون توصية خوارزمية، أو اتخاذ قرار دون سؤال نموذج، فقد يصبح السؤال الأكثر أهمية مختلفًا تمامًا عن ذلك الذي تطرحه أفلام الخيال العلمي.

لن يكون: هل يستطيع الذكاء الاصطناعي السيطرة علينا؟بل: هل سنظل قادرين على الاستغناء عنه عندما نحتاج إلى ذلك؟