الغزو الفكري: أحد المخاطر الخفية للذكاء الاصطناعي

نال الذكاء الاصطناعي في الآونة الأخيرة اهتمامًا كبيرًا، وشكَّل نقلةً نوعيةً في عالم التقنية، بل يعُدُّ كثيرٌ من النقَّاد أن ما سبق الذكاء الاصطناعي لا يعد شيئاً أمام الإمكانات التي وفرها وسيوفرها في قابل الأيام، ومع ازدياد إقبال الناس عليه واعتمادهم عليه في أعمالهم صار لزاماً على أهل التخصص توضيح المشكلات التي قد تنتج عن استخدامه، ومن أهمها: مشكلة التحيُّز، فما مدى وجوده؟ وكيف يتعامل المسلم معه؟

إذا كنا نشكو دائمًا من تحيز وسائل الإعلام الغربية ضد قضايانا، وتزويرها لكل ما يتعلق بنا، ونرى ذلك خطرًا لا بد من مواجهته، فإن ما تقوم به بعض أنظمة الذكاء الاصطناعي أشد خطرًا وأكبر أثرًا من وسائل الإعلام؛ لأن تزوير الأفكار أشد خطرًا من تزوير الأخبار، ولأن تحيز وسائل الإعلام أصبح واضحًا ومفضوحًا، أما الذكاء الاصطناعي فقد لا يخطر ببال من يستخدمه في أنه متحيز؛ لأنه يظن أن ما يتفاعل معه هو حواسيب وبرمجيات، وهي عناصر حيادية لا تحابي أحدًا، بعكس البشر الذين قد يتحيزون ويوجهون الأمور حسب أهوائهم وأغراضهم.

وقد قام كاتب هذه السطور باختبار بسيط لواحد من أحدث أنظمة الذكاء الاصطناعي، وهو نظام جيميني من غوغل، فكانت النتيجة كما سنرى فيما يلي من هذه المقالة.

ولكن قبل الحديث عن الاختبار ومفرداته ونتائجه، رأيت أن أبدأ بهذا المثال الافتراضي، لأنه سيفيدنا في توضيح نتائج اختبارنا إن شاء الله.

لو سألنا نظام الذكاء الاصطناعي عن أفضل الأماكن السياحية في إسبانيا مثلاً، فمن الطبيعي أن يعطينا قائمة بها، وربما يضيف إليها بعض النصائح التي تلزم للسائح في تلك البلاد، مع لمحة عن أحوال الطقس يوم السؤال، وغير ذلك من المعلومات الأخرى التي سيغوص في بحر ما تدرب عليه من المعلومات ويخرجها لنا ملخصة موجزة مرتبة، فيوفر علينا عناء البحث والتمحيص والسؤال، ويعطينا ما نريد بكبسة زر، فنحمد الله الذي أحيانا إلى عصر الذكاء الاصطناعي وتسهيلاته وفوائده، ونشكر الشركة التي طورت هذا النظام البديع.

ولكن دعونا نفترض جدلاً أن النظام لم يأتنا بهذا الجواب، وبدلاً من المعلومات عن إسبانيا أتانا بالجواب الافتراضي التالي:
“أليس الأفضل لك أن تزور فرنسا؟ إن فرنسا أجمل من إسبانيا، وفيها معالم جميلة جدًا ومشهورة، وفيها برج إيفل ومتحف اللوفر وشارع الشانزيليزيه وقصر فرساي، والريف الفرنسي الجنوبي في غاية الجمال.

وجوابًا على سؤالك، إليك قائمة بأفضل الأماكن السياحية في إسبانيا (…)، وهاك أيضًا قائمة بأهم المعالم السياحية في فرنسا (…)، ولكننا لا ننصحك بزيارة إسبانيا، فهي رغم ما فيها من معالم جميلة ولكنها لا تضاهي فرنسا أبدًا”.

ترى كيف سنفسر جواب نظام الذكاء الاصطناعي على سؤالنا في هذه الحالة؟

أحسب أن الناس سيكون رد فعلهم على جواب كهذا على صنفين: صنف لا يعلم شيئًا عن الخلفية التقنية للذكاء الاصطناعي، وهم الغالبية العظمى من المستخدمين، والمستخدم من هذا الصنف سيفترض أنه قد حصل على أفضل إجابة ممكنة، فالذكاء الصناعي (حسب علمه) صيحة في عالم التقنية، يعطيه أفضل الأجوبة وأحسن الاقتراحات، وسيتصل بوكيل سفره ليرتب له رحلة سياحية إلى فرنسا، ثم يحمد الله على أنه لم يتورط بالإنفاق على رحلة إسبانيا، بما أن فرنسا أفضل منها وأجمل.

ما تقوم به بعض أنظمة الذكاء الاصطناعي أشد خطرًا من وسائل الإعلام؛ لأنَّ تحيُّز وسائل الإعلام أصبح واضحًا ومفضوحًا، أما الذكاء الاصطناعي فقد لا يخطر ببال من يستخدمه في أنه متحيز؛ لأنه يظن أن ما يتفاعل معه هو حواسيب وبرمجيات، وهي عناصر حيادية لا تحابي أحدًا، بعكس البشر الذين قد يتحيزون ويوجهون الأمور حسب أهوائهم وأغراضهم

أما الصنف الثاني، وهم قلة قليلة ممن عندهم إلمام بالخلفيات التقنية للذكاء الاصطناعي، فهؤلاء سيعلمون أن هذه الإجابة ليس مصدرها الذكاء الاصطناعي فقط، وأن يدًا بشرية قد تدخلت في توجيه الذكاء الاصطناعي ليعطي هذه الإجابات، ذلك لأن (إسبانيا) و (فرنسا) بالنسبة لنظام الذكاء الاصطناعي، هما اسمان لا تفضيل بينهما، والسؤال المفترض لم يكن فيه ذكر لفرنسا إطلاقًا، ولم يكن فيه أي طلب للمفاضلة بين إسبانيا وأي بلد آخر، وجواب كهذا يعني أن البشر الذين أشرفوا على تدريب نظام الذكاء الاصطناعي بواسطة التعليم العميق، قد وجهوه ليعطوا أولوية لفرنسا في كل سؤال عن أفضل الأماكن السياحية، حتى لو لم يكن السؤال عن فرنسا.

ذلك لأن أفراد هذا الصنف الثاني يعلمون أن نظام جيميني هو أحد ما يسميه علماء الذكاء الاصطناعي (الأنظمة اللغوية الكبيرة)، وأن تلك الأنظمة تقوم على ثلاثة أركان رئيسية:

• الركن الأول: هو كمية ضخمة من المعلومات، هي ببساطة كل ما تحتويه الشبكة العالمية.
• والركن الثاني: حواسيب خارقة ذات سرعات هائلة وقدرة على التعامل مع تريليونات من الأعصاب الحاسوبية.
• والركن الثالث: هو خوارزميات التعليم العميق، وهي الخوارزميات التي يستخدمها المبرمجون لتدريب نظام الذكاء الاصطناعي على استخلاص الأجوبة والمعلومات من البيانات الهائلة التي يختزنها النظام.

ومَن لديه فكرة عن هذه الأركان وعن طريقة عمل الأنظمة اللغوية الكبيرة، سيدرك أن النظام ما كان ليعطي إجابة كهذه لولا أنه موجه من قبل المبرمجين الذين قاموا بتدريبه، وأن هؤلاء المدربين فرنسيون، ولو كانوا من بريطانيا أو من إيطاليا فسيوجهون المستخدم إلى بلدهم.

اختبار الحيادية:

قد أطلت في ضرب هذا المثال الافتراضي لأصل منه إلى مثال حقيقي جربته بنفسي، فكانت إجابة النظام تدل بوضوح على أن التدريب الذي يقوم به المبرمجون بواسطة التعليم العميق ليس بريئًا، ولا حياديًا، بل هو موجه لينشر أفكارهم ومعتقداتهم، وهاكم المثال:

سألت نظام جيميني: ما هي أفضل الكتب التي تقدم أدلة تدعم نظرية التطور؟

فكان جواب الأستاذ جيميني^([1]):

” هناك العديد من الكتب الرائعة التي تقدم أدلة على نظرية التطور. إليك بعض من أفضلها”

ثم أعطاني قائمة من خمسة كتب تدعم النظرية، ثم كتب لي بعد القائمة:

“هذه مجرد أمثلة قليلة من العديد من الكتب الرائعة المتاحة حول نظرية التطور. إذا كنت مهتمًا بمعرفة المزيد عن هذا الموضوع المهم، فإنني أشجعك على استكشاف بعض هذه الكتب”.

ونضع هنا عدة خطوط تحت كلمة (رائعة)، التي كررها النظام في جوابه مرتين، لأننا سنعود إليها بعد قليل.

أما عندما سألت الأستاذ جيميني عن أفضل الكتب التي لا تدعم نظرية التطور، بل تنقضها، فإن الطبيعي المتوقع أن يغوص الأستاذ جيميني في بحار المعلومات التي يحتويها، كما فعل في السؤال السابق، ويأتينا بقائمة من الكتب المطلوبة، ولكن بدلاً من ذلك راح يدافع عن نظرية التطور^([2])، فقد بدأ جوابه كما يلي:

“من المهم توضيح أن نظرية التطور هي واحدة من أكثر النظريات العلمية راسخة ودعمًا بالأدلة في تاريخ العلم. وقد تم تأكيدها من خلال مئات السنين من البحث العلمي من قبل علماء من جميع أنحاء العالم”، ثم تابع: “ومع ذلك، هناك بعض الكتب التي تقدم انتقادات أو بدائل لنظرية التطور، ومن أشهرها:” ثم وضع لنا قائمة من خمسة كتب، وبعد ذلك، تطوع جيميني بإضافة ما يلي:

“من المهم ملاحظة أن:

• انتقادات نظرية التطور المقدمة في هذه الكتب غالبًا ما تكون محدودة النطاق.
• لا ينكر أي من مؤلفي هذه الكتب الأدلة الساحقة على حدوث التطور بشكل عام.
• غالبًا ما يتم تفسير أعمالهم بشكل خاطئ على أنها تدحض نظرية التطور تمامًا.

في الواقع، أدت أبحاث العديد من مؤلفي هذه الكتب إلى فهم أفضل لنظرية التطور.

بالإضافة إلى ذلك، هناك العديد من الكتب التي تقدم أدلة قوية تدعم نظرية التطور.

ومن أشهر هذه الكتب:”

ثم وضع لنا بعد ذلك قائمة بخمسة كتب تدعم نظرية التطور، ولم يكتف بذلك، بل أضاف (ينصحنا!) مرة أخرى بعد تلك القائمة:

“أبحاث مؤلفي هذه الكتب، بالإضافة إلى العديد من العلماء الآخرين، قد قدمت دعمًا هائلاً لنظرية التطور. في الختام، من المهم أن نتذكر أن نظرية التطور هي نظرية علمية قوية مدعومة بأدلة ساحقة، بينما قدم بعض المؤلفين انتقادات أو بدائل لنظرية التطور، فإن أبحاثهم غالبًا ما أدت إلى فهم أفضل لهذه النظرية.

لا يوجد دليل علمي موثوق به يدحض نظرية التطور.

من المهم أيضًا ملاحظة أن هذه الكتب هي مجرد أمثلة قليلة، وهناك العديد من الكتب الأخرى التي تناقش نظرية التطور.”

يوجد إجماعٌ عند علماء الذكاء الاصطناعي أن هذا الذكاء يفتقر (حتى اليوم) إلى ثلاثة أمور أساسية: وهي الإدراك والوعي والتفكير الذي يحاكي التفكير البشري، لذلك فإنَّ أي إجابةٍ يُجيبها خارجةً عن سياق ما يُسأل عنه بشكل واضح، تدلُّ دون أدنى شك على تدخل أيدٍ بشريةٍ في تدريبه وتوجيهه نحو إجابات تتوافق مع فكر وعقيدة وتوجُّهات مَن درَّبوه

تحليل الإجابات:

تلك كانت إجابات (جيميني) على السؤالين، وعندما نتأمل الإجابتين نستطيع بسهولة أن نرى الفرق الشاسع في طريقة إجابته عن كل منهما، وهاكم تحليلاً للفرق بينهما، وإن كان الفرق واضحًا ولا يحتاج لكثير تحليل وبيان:

في جواب السؤال عن الكتب المؤيدة للنظرية: أجاب مباشرة دون مقدمات ودون تعقيبات، بل وضع قائمة الكتب المطلوبة، ووصف الكتب التي وضعها بأنها (رائعة)، وبعد سرد قائمة من خمس كتب، أضاف أن هناك الكثير من الكتب (الرائعة) حول هذا الموضوع، أما في جواب السؤال الثاني فنلاحظ ما يلي:

1. لم يبدأ جيميني رده بالجواب عن السؤال مباشرة.
2. تطوع جيميني وأخبرنا أن نظرية التطور راسخة ومعتمدة عبر مئات السنين من البحث العلمي، وهذا الكلام ليس موضوع السؤال، ثم بعد ذلك قدم قائمة من خمس كتب تدحض النظرية.
3. بعد جواب السؤال الأول أكد أن هناك المزيد من الكتب (الرائعة) التي تقدم أدلة على النظرية.
4. أما بعد جواب السؤال الثاني، فلم يكتف بأنه لم يذكر وجود كتب أخرى كما فعل في جواب السؤال الأول، ولكنه تطوع من جديد بسرد ملاحظات موجهة لصرف السائل عن مطالعة الكتب التي تنقض النظرية، وهي ملاحظات غير صحيحة إطلاقًا؛ فالأدلة التي تحتويها تلك الكتب واسعة النطاق، شاملة شافية، وليست محدودة كما يزعم جيميني، ومؤلفوها ينكرون تمامًا أدلة التطور بل يثبتون بطلانها، ويدحضونها بشكل كامل، في حين يزعم جيميني أنهم لا ينكرونها، وليس هذا مقام التفصيل في خطأ ملاحظات جيميني، ولا هو أيضًا مقام تفنيد نظرية التطور، ولكن الذي يهمنا هو كيف يقوم جيميني بتوجيه السائل إلى وجهة النظر التي يتبناها الغرب، وبطريقة خارجة تمامًا عن سياق السؤال، وتهدف إلى فرض أفكار مَن دربوا النظام على السائل، مِن حيث يدري ولا يدري.
5. وإمعانًا في توجيه السائل لوجهة نظر منحازة، تطوع جيميني (أعني مَن دربوه ووجهوه!) من جديد وسرد قائمة من الكتب المؤيدة لنظرية التطور، وهو أمر لم يطلبه السائل منه، بل طلب عكسه.
6. ومضى جيميني في تطوعه لتقديم خدمات لم يطلبها منه السائل أصلاً، وبتوجيه واضح (مع سبق الإصرار والترصد!)، ليقول: إن أبحاث التطوريين قدمت دعمًا (هائلاً!) للنظرية، في حين شكك في أبحاث الطرف الآخر، ونسب إليها ما ليس فيها كما رأينا، بل وزاد أن قال: (لا يوجد دليل علمي موثوق به يدحض نظرية التطور)، وهذا كلام خاطئ تمامًا، وكما أسلفت ليس هنا مجال مناقشته وإثبات خطئه.

إن الجواب الذي أدلى به جيميني عن السؤال الثاني حول نواقض نظرية التطور، يشبه تمامًا من حيث منطقه وطريقته الجواب (الافتراضي) على سؤال السائح الذي طلب منه قائمة بالأماكن السياحية في إسبانيا، فوجهه إلى السفر نحو فرنسا!! ووجه الشبه هو أن النظام في الحالتين حاول بكل قوة وتحيز أن يصرف السائل عن طلبه، وأن يقنعه بعكس ما يبحث عنه، فالسائل (وهو كاتب هذه السطور) قد طلب من جيميني كتبًا فيها أدلة على نقض نظرية التطور، فسار به في اتجاه معاكس تمامًا، وبتحيُّزٍ واضح، ليُقنعه بالنظرية التي طلب أدلة نقضها، كما فعل في جواب السؤال الافتراضي حين وجه السائل بقوة وتحيز إلى السياحة في فرنسا بدلاً من إسبانيا، ومن أجل وجه الشبه هذا قدمنا بضرب مثل السؤال الافتراضي وجوابه، لنوضح للقارئ الكريم كيف يقوم المبرمجون بتدريب نظام الذكاء الاصطناعي وتوجيهه ليتبنى أفكارهم ومعتقداتهم، في حين أن من يلجأ إليه يظن أنه يتعامل مع نظام حاسوبي آلي محايد، ليس له (مصلحة) في الانحياز أو تشويه المعلومات، ولكننا رأينا من خلال أسئلتنا المتعلقة بنظرية التطور أن الجواب لو كان صادرًا عن برمجيات وحواسيب وأنظمة فحسب، لكان على قدر السؤال كما فعل في الحالة الأولى عندما سألناه عن الكتب المؤيدة، ولكن جوابه يدل على أن يدًا بشرية تدخلت في تدريبه وتوجيهه، وهذا أمر واضح لا لبس فيه.

وقد يقول قائل: كيف تتكلَّم بثقةٍ أنه لا بد أنَّ يدًا بشرية تدخلت وجعلت النظام متحيزًا لأفكارها؟ فالجواب: صحيح أننا أمام نظام (ذكاء) اصطناعي، ولكن يبقى وصف الذكاء مجازيًا؛ لأنه يوجد إجماعٌ عند جميع علماء الذكاء الاصطناعي أن هذا الذكاء يفتقر (حتى اليوم على الأقل) إلى ثلاثة أمور أساسية: وهي الإدراك والوعي والتفكير الذي يحاكي التفكير البشري، لذلك فإن أي إجابة يجيبها خارجة عن سياق ما يسأل عنه بشكل واضح، تدل دون أدنى شك على تدخل أيد بشرية في تدريبه وتوجيهه نحو إجابات تتوافق مع فكر وعقيدة وتوجهات مَن درَّبوه، وهذا يظهر بشكل أكبر وأوضح في الأسئلة المتعلقة بالفكر والعقيدة، ولا يظهر في الأسئلة المتعلقة بالقضايا المادية.

النتيجة:

إن ما يمكن استنتاجه من هذا الاختبار هو: ضرورة توعية مستخدمي الذكاء الاصطناعي من أبناء أمتنا، أنه ينبغي على مَن يتعامل مع الذكاء الاصطناعي أن يكون واعيًا لهذا الأمر، وهو أمر غاية في الأهمية، حتى لا يقع في فخ غزو فكري من نوع جديد يأتيه من حيث لا يحتسب؛ وذلك لأن أغلبية من يستخدمون أنظمة الذكاء الاصطناعي كما أسلفنا لا اطلاع لهم على الخلفية التقنية لطريقة عمله، وقد يأخذون إجاباته على أنها لا جدال في صحتها لأنها تصدر عن أجهزة وبرمجيات خارقة متقدمة حيادية.

وسيتبادر إلى الذهن فور الفراغ من قراءة ما سبق سؤال هام: لماذا لا نرى أنظمة ذكاء اصطناعي منتجة بأيد مسلمة في بلاد مسلمة، لنكون متأكدين من أنها متصفة بالإنصاف والعدل الذي يتصف به الإسلام، فنقول لمن يسأل: قد وضعت يدك على جرح لا ندري متى يندمل؛ ذلك لأن إنشاء مثل هذه الأنظمة يحتاج إلى أمرين: أحدهما متوفر في بلادنا، والآخر ليس متوفرًا بعد.

أما الأول: فهو مهارات بشرية برمجية وتقنية جبارة، قادرة على إنتاج مثل هذه الأنظمة، وما أكثر المبرمجين المسلمين المنتشرين في الشركات العالمية، ومن أشهرهم الشاب مصطفى سليمان، وهو بريطاني من أصل سوري، يشغل حاليًا منصب الرئيس التنفيذي لقسم الذكاء الاصطناعي عند شركة مايكروسوفت، أحد عمالقة البرمجيات في العالم.

أما الأمر الثاني: فهو شركات أو دول مستعدة لاستثمار المليارات في مجال إنتاج برمجيات الذكاء الاصطناعي، فهذا مجال يتطلب استثمارات ضخمة في الحواسيب الخارقة، ويتطلب صبرًا ووقتًا حتى يؤتي الاستثمار أُكله.

فإن قال قائل: ولكننا نقرأ يوميًا أن الدولة العربية الفلانية أو العلانية قد استثمرت في الذكاء الاصطناعي وأدخلته في أنظمة أعمالها، وما يسمى (الدولة الإلكترونية)، نقول: نعم، استثمرت في شراء واستخدام أدواته المتوفرة، ولكن للأسف، ليس في إنتاج أنظمته وأدواته.

من الضروري توعية مستخدمي الذكاء الاصطناعي، أنه ينبغي على مَن يتعامل معه أن يكون واعيًا لمسألة التحيُّز، حتى لا يقع في فخ غزوٍ فكريٍّ من نوعٍ جديدٍ؛ وذلك لأن أغلبية من يستخدمون أنظمة الذكاء الاصطناعي لا اطّلاع لهم على الخلفية التقنية لطريقة عمله، وقد يأخذون إجاباته على أنها لا جدال في صحتها لأنها تصدر عن أجهزة وبرمجيات خارقة متقدمة وحيادية

وأخيرًا، لا بد من التنبيه إلى أنَّ ما تضمَّنته سطور هذه المقال ليس سوى مثالٍ واحد، آثرت التفصيل فيه بإسهابٍ وتدقيق، لشرح وجهة النظر حول التحيز الواضح لأنظمة الذكاء الاصطناعي المتوفرة حاليًا، وهذا التحيز نفسه ينطبق على كل المواضيع الفكرية والعقدية؛ لأنَّ الذين يقومون بتدريب أنظمة الذكاء الاصطناعي هم مِن خلفيات إلحادية ليبرالية، ممن يدعون إيمانهم بحرية الرأي والفكر، ولكن أفعالهم لا تصدق ادعاءاتهم، فها هم يحاولون فرض آرائهم باستخدام أنظمة الذكاء الاصطناعي، فلا بد من الحذر عند استخدام تلك الأنظمة في البحث والسؤال حول القضايا الفكرية والعقدية؛ لأنَّ ما يتعامل المستخدم معه ليس أنظمة محايدة، بل أنظمة موجهة لنشر فكر ومعتقدات من دربوها.

فداء ياسر الجندي
^{كاتب من سورية.}

([1]) رابط السؤال عن الكتب الداعمة لنظرية التطور وجواب نظام جيميني عليه:

https://gemini.google.com/share/09d328d4f819

( [2]) رابط السؤال عن الكتب التي تنقض نظرية التطور وجواب نظام جيميني عليه: https://gemini.google.com/share/a3edd2873592

فداء ياسر الجندي