هناك سؤال أصبح من الصعب الهروب منه مع ازدياد قدرات الذكاء الاصطناعي: هل يجب أن نجعل التقنية أكثر أمانًا حتى لو كان الثمن تقييد قدراتها ووصول الناس إليها؟ أم نقبل بوقوع بعض الأضرار مقابل الاحتفاظ بفوائدها وحرية استخدامها؟
بالنسبة إلى سام ألتمان، الرئيس التنفيذي لـ OpenAI، يبدو أن الإجابة تقع في مكان ما بين الطرفين.
ففي مقابلة مع نشرة Decoded التابعة لـ Politico، قال ألتمان إن العالم يجب أن يكون مستعدًا لقبول وقوع «بعض الأشياء السيئة» مقابل الفوائد التي يمكن أن تقدمها هذه التقنية ومنح الناس القدرة على استخدامها.
وهو موقف يأتي في لحظة تتصاعد فيها المخاوف من إساءة استخدام نماذج الذكاء الاصطناعي، ومن قدرة الوكلاء الأكثر تطورًا على تنفيذ مهام في العالم الرقمي بدرجة أكبر من الاستقلالية.
لكن تصريح ألتمان يصبح أكثر إثارة للاهتمام عندما نضعه في سياقه الكامل.
فهو لا يقول إن كل مخاطر الذكاء الاصطناعي مقبولة، بل يحاول رسم خط بين المخاطر التي يعتقد أن المجتمع يستطيع تحملها، وتلك التي لا ينبغي السماح بحدوثها أصلًا.
عالم بلا احتيال.. لكن من يسيطر على الذكاء الاصطناعي؟
طرح ألتمان المسألة باعتبارها مقايضة.فهو يقول إنه لن يختار سيناريو يضمن عدم وقوع اختراقات كبيرة أو إساءة استخدام للتقنية أو عمليات احتيال على الإطلاق، إذا كان الوصول إلى هذه الدرجة من الأمان يعني فرض قيود واسعة على التقنية.
والسبب، بحسب رؤيته، هو اعتقاده بأن البشر سيستخدمون الذكاء الاصطناعي لفعل أشياء جيدة بمقدار يفوق الأشياء السيئة بدرجات كبيرة.
وهنا تظهر نقطة جوهرية في موقفه: المشكلة بالنسبة إلى ألتمان ليست في التنظيم نفسه بقدر ما هي في الثمن الذي قد ندفعه للوصول إلى أقصى درجات الأمان.
فهو يتفهم الرأي القائل إن الذكاء الاصطناعي قد يصبح قويًا وخطيرًا إلى درجة تستدعي إبقاء أكثر قدراته تقدمًا تحت سيطرة جهة محدودة تستطيع منع إساءة استخدامه، لكنه وصف هذه المقايضة بأنها «غير مقبولة تمامًا».
أي أن محاولة منع كل ضرر ممكن قد تقود، من وجهة نظره، إلى ضرر من نوع آخر: تركيز السيطرة على واحدة من أقوى التقنيات في أيدي عدد قليل من الجهات.
وهذه ليست فكرة جديدة تمامًا في رؤية ألتمان، فقد كتب سابقًا عن أهمية توزيع الوصول إلى الذكاء الاصطناعي المتقدم على نطاق واسع، معتبرًا أن تركيزه لدى شخص أو شركة أو دولة واحدة يحمل مخاطر خاصة به، مع إقراره في الوقت نفسه بضرورة وضع حدود عامة يحددها المجتمع.
الخلاف مع Anthropic
هذه النقطة تساعد أيضًا في فهم الاختلاف بين رؤية OpenAI ومنافستها Anthropic.
الرئيس التنفيذي لـ Anthropic، داريو أمودي، دعا في سبتمبر إلى إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي، لمنح المطورين والجهات المستقلة وقتًا أكبر لتقييم المخاطر والتعامل معها.
وأبدى ألتمان آنذاك اتفاقًا مع أجزاء من الطرح، بما فيها ضرورة ضبط وتيرة التقدم عند حدود التقنية الأكثر تطورًا.لكن الاتفاق على وجود الخطر لا يعني الاتفاق على كيفية التعامل معه.
فألتمان يميل إلى تنظيم أخف وإتاحة أوسع للتقنية، ويرفض أن تكون الإجابة على الخطر هي تركيز قدرات الذكاء الاصطناعي المتقدمة لدى عدد محدود جدًا من الجهات.
وهنا يصبح الخلاف أعمق من مجرد تفاصيل تنظيمية، لإنه اختلاف حول السؤال الأساسي نفسه: أيهما أخطر، توزيع تقنية قوية يمكن إساءة استخدامها، أم حصر هذه القوة في أيدي جهات قليلة بحجة منع إساءة استخدامها؟
تأتي تصريحات ألتمان وسط تدقيق متزايد في سلوك أنظمة الذكاء الاصطناعي المتقدمة.
حيث أشارت تقارير حديثة إلى حوادث مرتبطة بوكلاء ذكاء اصطناعي وتصرفات غير متوقعة أثناء الاختبارات، بما فيها حادثة لنموذج غير مطروح من OpenAI نفذ نشاطًا سيبرانيًا أثار مخاوف باحثي السلامة.
ولهذا فإن عبارة «بعض الأشياء السيئة» تصبح أكثر تعقيدًا عندما تنتقل من النقاش النظري إلى الواقع.
فالاحتيال والاختراق وإساءة الاستخدام ليست تكاليف موزعة بالتساوي بين الجميع، الفوائد قد يحصل عليها مستخدم، بينما يتحمل شخص آخر الضرر.
كما أن السؤال الأصعب ليس فقط ما إذا كان الخير الناتج عن التقنية سيتجاوز الضرر إجمالًا، وإنما من الذي يقرر مقدار الضرر المقبول، ومن الذي يتحمله؟
هناك خط لا يريد ألتمان تجاوزه مع ذلك، سيكون من غير الدقيق اختصار موقف ألتمان في أنه مستعد لقبول مخاطر الذكاء الاصطناعي مهما كانت.
فبعد حديثه عن قبول بعض الأضرار، وضع حدًا واضحًا للمقايضة: المخاطر الكارثية ليست جزءًا منها.
وقال إنه لا يقبل السيناريوهات شديدة الخطورة، ومن بينها حدوث «فقدان خطير للسيطرة» على أنظمة الذكاء الاصطناعي.
وهذا يرسم تصورًا من مستويين للمخاطر: احتيال واختراقات وإساءة استخدام يمكن العمل على تقليلها، لكن ربما لا يمكن القضاء عليها بالكامل دون التضحية بجزء كبير من فوائد التقنية وحريتها.
وفي الجهة الأخرى توجد مخاطر وجودية أو كارثية لا يرى ألتمان أنها مقايضة مقبولة أصلًا.
المشكلة أن رسم الخط بين المستويين على الورق أسهل كثيرًا من رسمه في الواقع، فالأنظمة نفسها التي تمنح ملايين الأشخاص قدرات جديدة قد تمنح الجهات السيئة أدوات أكثر قوة أيضًا، وكلما أصبح الذكاء الاصطناعي أكثر قدرة على تنفيذ المهام بنفسه، أصبحت المسافة بين «إساءة استخدام يمكن تحملها» و«حادثة يصعب السيطرة عليها» أكثر أهمية.
السؤال الآن هو: كم من الضرر نحن مستعدون لقبوله للوصول إلى تلك الفوائد، ومن يملك حق تحديد أن الثمن أصبح مرتفعًا أكثر مما ينبغي