Arabic Version

لنتخيل أنك عالِم في عام 1905، و يأتيك شخصًا ذو شعر فوضوي يخبرك بأن الطاقة تساوي الكتلة في تربيع سرعة الزمن، و أن الكتلة ما هي إلا مجرد شكل آخر للطاقة. عند سؤاله عن تفسير علمي لكلامه، يقول لك “لقد حلمت بهذه المعادلة” بدلًا من أن يعطيك تفسير مقنع لهذه المعادلة. وهنا لديك خيار من اثنين، إما أن تعتبر هذا الشخص مجنوناً، أو إما أن تحاول أن تفسر ما قاله بنفسك.

بالطبع نحن على علم جميعا أن هذا لم يحدث،  لكن هناك عبارة مشهورة تعرف ما حدث. ألا و هي  معضلة الصندوق الأسود، الصندوق الأسود هي  ببساطة عبارة تطلق عندما لا يستطيع الإنسان أن يفسر كيف وصل لنتيجة ما أو ما تفاصيل هذه العملية، لذلك هي بالنسبة لك كالصندوق الأسود.

ولكن بسبب جهود البشر المستمرة على تفسير كل ما يحدث حولنا عن طريق البحوثات و التجارب، ستجد أن الظاهرة نادرة الحدوث عند البشر، و لكن على الجانب الآخر لا يمكنك قول ذلك على آلات أو بالأحرى على آلات تعلم نفسها. 

معضلة الصندوق الأسود  و شبكات التعلم العميق العصبية   

هنا قد يدور في بالك سؤال مهم  “ما هي  العلاقة بين معضلة الصندوق الأسود و الآلات؟ “  لكنني لا أتحدث هنا عن الآلات العادية ؛ أنما أتحدث عن آلات الشبكات العصبية العميقة أو ال deep neural network ، لذا لكي نفهم هذه العلاقة جيدًا، سأصحبكم في رحلة في عالم الشبكات العصبية العميقة وكيف تعمل.

للتفكير في كيفية عمل الشبكات العصبية أو neural networks، يمكنك القول إنها مشابهة تقريبًا لكيفية عمل دماغك ، تتكون الشبكة العصبية من ما نسميها الخلايا العصبية أو neurons، فكر في هذه الخلايا العصبية كمتغير يحمل قيمة من 0 إلى 1 ، يتم تنظيم هذه الخلايا العصبية على شكل صفوف أو طبقات حيث ترتبط بعضها ببعض عن طريق الروابط، كل خلية عصبية متصلة بخلايا عصبية أخرى موجودة في الطبقة التي تسبقها، كل خلية عصبية تمثل ميزة معينة أو نمط معين في مُدخلاتنا، وكلما زادت الطبقات، كلما وُجدت الخلايا العصبية تكتشف ميزة معقدة للغاية حتى تصل إلى طبقة الخيرة، هذه الطبقة تقرر ما إذا كانت المدخل الذي وضعناه يحمل القيمة التي نريدها.

علي سبيل المثال إذا اردنا أن نطور شبكة الخلايا العصبية لتتعرف على القطط ، فستكون أول طبقة هي بيكسلز التي في الصورة و ستكون الطبقة الثانية بها خلايا عصبية مسؤولة عن تحديد الحواف في الأشكال، الطبقة التي تليها بها الخلايا العصبية مسؤولة عن تحديد الأشكال و هكذا حتى تصل لطبقة معينة سيكون بها أثنان من الخلايا العصب، واحدة تخبرك أنها قطة بالفعل و أخرى تخبرك بأنها العكس و على حسب الصورة ستنشط واحدة منهم في النهاية. 

الفرق الحقيقي بين هذه الشبكات و أدمغتنا أنها مدربة رجعية! أي أنها عندما تحصل على إجابة خاطئة تخبرها بالإجابة الصحيحة. فتقوم بالتلاعب بالروابط بين الخلايا العصبية قليلًا للحصول على الإجابة الصحيحة في المرة القادمة. كل خلية عصبية تقوم بذلك كل مرة تلقائيًا. و لا تقلق، تتم هذه العملية باستخدام الجبر و الرياضات وليس السحر، وكل ما عليك فعله هو تكرار هذه مليون مرة و في النهاية تحصل على شبكة يمكنها التعرف على قطة من بين ألف كلب.

هذه الصورة توضح كيف تعمل الشبكات العصبية بشكل أوضح

إذا ما المشكلة؟

إذن ما يزال السؤال قائماً، ما علاقة الصندوق الأسود بكل هذا، وأبسط إجابة لهذا هو أن الطبقات بين المدخلات (input layer) والمخرجات (output layer) هي طبقات مخفية، لا يمكن النظر إليها وفهم ماهيتها، فهي مجرد مجموعة من الخلايا العصبية المتصلة بطريقة معينة، ليست مجموعة من الأكواد التي تستطيع قراءتها. هي مجرد مجموعة من المتغيرات التي تحمل قيم و هذه المتغيرات متصلة ببعضها، ولذلك لقبها صانعيها بالصندوق الأسود.

قد تتساءل: “إنها تعمل، فما هي المشكلة؟”، الإجابة هي أن الأمر ليس مشكلة إذا كنت تريد فقط التعرف على القطط من الصور ، ولكن إذا كنت تريد شبكتك العصبية أن تأخذ قراراً مهمًا في مسألة حياة أو موت، فهذه مشكلة كبيرة. إذا كانت شبكتك ستقود سيارتك، أو سيستخدمها الأطباء في تشخيص شخص مصاب بالسرطان، أو أنها مسؤولة عن إخبارك ما إذا كانت كوريا الشمالية ستبدأ حربًا عالمية، فأنت بحاجة إلى فهم كيفية حصولها على هذه النتائج لأنك بحاجة إلى أن تشرح لصانعي القرار سبب إعطاء الشبكة لهذا التحليل.

 من صندوق أسود إلى صندوق زجاجي

جراحين الأعصاب الذين يستعملون أجهزة و أدوات لفحص ومعالجة مخ الإنسان، طور الباحثون أدوات فحص مخ الذكاء الاصطناعي، و صنفوا الأدوات ثلاثة تصنيفات:

1. 1. 1.     أدوات التحكم في الصندوق الأسود
      2.     استكشاف الصندوق الأسود
      3.     تقبل السواد (Embracing the darkness technique )

هناك بعض الطرق التي يحاول بها العلماء حل مشكلة الصندوق الأسود.

اتبع ماركو روبيرو نهجًا يستعمل فيه ادوات سماها المجسات الواقعية (counter-factual probes)، تعمل تلك المجسات على تغيير المدخلات بطريقة ذكية لإظهار المدخلات التي تؤثر بشكل كبير على الشبكة العصبونية الاصطناعية (neural network) في اتخاذ القرارات أو إظهار النتائج. مشكلة هذه الطريقة تكمن في تكرار العملية آلاف المرات قبل الوصول إلى نتيجة. لاحظ هذة المشكلة و حاول حلها أحد علماء جوجل و هو الباحث  سندراراجان وفريقه، قام  سنجرارجان بإيجاد طريقة فعالة أكثر و هي أن يبدأ إسناد فارغ (كصورة سوداء أو مقصوصة أصفار) و خطوة بخطوة يجول الإسناد الفارغ إلي الصورة الاصلية، هذه الطريقة تسهل تتبع خطوات الشبكة العصبية لحظة بلحظة بدلاً من تغيير المدخلات بشكل عشوائي.

فكر مارك ريدل بحل ساخر قليلا لمشكلة الصندوق الأسود، ألا و هي الاستعانة بالذكاء الاصطناعي لفهم الذكاء الاصطناعي! باستعمال شبكة مترجمة استطاع مارك ريدل صنع شبكة عصبية قادرة على تفسير افعالها و اختياراتها أثناء لعب لعبة. كي يصل ريدل إلى تلك النتائج، أتى ببعض الأشخاص وجعلهم يلعبون اللعبة الالكترونية مع تفسير سبب كل خطوة أخطوها، و مرن شبكة عصبية على فهم وترجمة تلك التفسيرات إلى لغة الحاسوب، و من ثم دمجه مع الشبكة العصبية الأساسية اللاعبة.

الخاتمة

لقد رأينا العديد من أفلام الخيال العلمي المبنية على أن الإنسان الآلي يخرج عن السيطرة و يحارب البشر، لكننا نراها بنفس الطريقة التي نري بها أفلام نهاية العالم بسبب الأحياء الأموات (zombies)، مجرد خيال، أليس كذلك؟

لكن أنظر كيف وصلنا إلى مرحلة نعجز فيها عن تفسير ما صنعناه بايدينا، مع العلم أيضًا أن هناك مرة كان هناك جهازين قادرين على إختراع لغة والتواصل بها و لم يستطع البشر فهمها أو فكها. هل ستبقي نظرتك لتلك الأفلام كما هي؟

من المحتمل أن تلك الأفلام ليست من محض الخيال فقط و أنها توقعات لمستقبل نتجه نحوه. من يعلم؟

“إنها بداية جيدة لخطتي للسيطرة على الجنس البشري” -الإنسانة الآلية صوفيا