مع تزايد أدوات الذكاء الاصطناعي وانتشارها في مُختلف الصناعات، أصبح كلٌ من الأفراد والشركات تتوق إلى الاستفادة منها وانتظار كل ما هو جديد لتحقيق المزيد من التقدّم في أعمالهم، وتوفير المال، وتسريع وتيرة الإنتاج. ولكن هل هذه الأدوات جاهزة للعالم الحقيقي؟ فمع القوة العظيمة تأتي مسؤولية كبيرة.
ومع انتشار أدوات الذكاء الاصطناعي في مُعظم المجالات، أصبحت هناك الكثير من التساؤلات حول مدى دقّتها وموثوقيّتها. ومع دمج الذكاء الاصطناعي في الحياة اليومية، أصبح من الضروري أن نقوم بدراسة آثاره المُحتملة على المُجتمع وما إذا كان يُمكن الاعتماد عليه بشكلٍ كاملٍ أم لا. من المُساعدين الافتراضيين الذين يُرشدوننا خلال روتيننا اليومي إلى الخوارزميات المُعقَّدة التي تعمل على تشغيل المركبات المستقلة وأنظمة التشخيص الطبي، أصبحت قضيّة الدقة والموثوقيّة أحد أهم القضايا المُتعلقة بتكنولوجيا الذكاء الاصطناعي,
من خلال مقالاتنا المُميَّزة ستتعلم الذكاء الاصطناعي وستتعرَّف على استخدامات الذكاء الاصطناعي، تطبيقات ومواقع الذكاء الاصطناعي وغير ذلك الكثير! اقرأ مقالات الذكاء الاصطناعي
لذا؛ هل الذكاء الاصطناعي موثوق ؟ في هذا المقال، سنتعمَّق في هذه القذيّة وسنتنقل عبر تعقيدات تكنولوجيا الذكاء الاصطناعي، ونفحص نقاط قوتها وقيودها وتأثيراتها في العالم الحقيقي.
ما هي موانع الثقة الكاملة بالذكاء الاصطناعي؟
ها هي بعض الأسباب التي تجعلنا نشعر بعدم الثقة الكاملة في الذكاء الاصطناعي:
- عدم وضوح التعليمات
- مدى الشفافية
- عدم اليقين
- مدى التكيُّف مع الذكاء الاصطناعي
- التحيُز في البيانات
1. عدم وضوح التعليمات
على الرغم من أننا نطلق عليه اسم “الذكاء الاصطناعي”، إلا أنَّه لا يستطيع أن يُفكِّر بنفسه وبشكلٍ مُستقل عن البشر. يمكنك القول أنّ أنظمة الذكاء الاصطناعي سوف تفعل بالضبط ما تمت برمجتها للقيام به، مما يجعل التعليمات التي يقدمها المهندسون لنظام الذكاء الاصطناعي مهمة للغاية.
على سبيل المثال، لنفترض أنّنا نريد تدريب نظام الذكاء الاصطناعي على التعرُّف على نوع مُعيّن من الطيور في وضح النهار. يُمكننا ببساطة تزويده ببيانات التدريب، حيث ستتضمّن مجموعة البيانات المُستخدمة فقط صورًا لنوع الطيور المُستهدفة في النهار. ما قمنا بإنشائه بالفعل هو نظام ذكاء اصطناعي يتعرَّف على صور هذا النوع من الطيور، بدلاً من جميع الطيور تحت جميع ظروف الإضاءة والطقس. في هذه الحالة، لم يتعلَّم الذكاء الاصطناعي إلا من خلال البيانات التي تم تدريبه عليها.
وتصبح التعليمات أكثر أهميةً عندما يتم استخدام الذكاء الاصطناعي لاتخاذ قرارات بشأن حياة الناس، كما هو الحال عندما يتخذ القضاة قرارات الإفراج المشروط على أساس نموذج الذكاء الاصطناعي الذي يتنبأ بما إذا كان الشخص المدان بارتكاب جريمة من المرجح أن يرتكب جريمةً أخرى.
ولذلك، يُمكن القول أنّه حتى اللحظة الحالية لا يُمكن الاعتماد على الذكاء الاصطناعي بشكلٍ كامل إلا في أداء بعض المهام المُحدّدة، أمَّا عمليّة صنع القرار فيجب أن تنتهي عند البشر
2. مدى الشفافية
يجب الأخذ في الاعتبار أنّ أنظمة الذكاء الاصطناعي المُتقدمة ليست شفافة، بمعنى أنّه تتم كتابة الخوارزميات بواسطة البشر وهي مصممة عادةً ليتم قراءتها وفهمها من قبل المُهندسين الذين يمكنهم قراءة التعليمات البرمجيَّة فقط. بالإضافة إلى ذلك، تم تصميم بنيات الذكاء الاصطناعي لاكتشاف الأنماط المُفيدة تلقائيًا، ومن الصعب – بل ويبدو من المستحيل في بعض الأحيان – على البشر تفسير تلك الأنماط. قد يجد النموذج أنماطًا لا يفهمها الإنسان ثم يتصرَّف بشكلٍ غير مُتوقَّع.
من الناحية العلمية، لا نعرف لماذا تعمل الشبكات العصبية بشكل جيد. في الواقع، إذا نظرت إلى الرياضيات، فإنَّ البيانات التي تتعرض لها الشبكة العصبية، والتي تتعلم منها، غير كافية لمستوى الأداء الذي تحققه. وبالتالي، فإنّ العلماء ما زالوا يبحثون عن أسباب لشرح سبب قوة الشبكات العصبية والوتيرة التي تُعلّم نفسها بها.
ولعل أبرز المُشكلات التي ستنتج عن خلق أنظمة الذكاء الاصطناعي لأنماط جديدة تلقائيًا هو القرارات غير المُتوقعة أو التي قد لا نجد لها تفسيرًا. فلكي يتم استخدام الذكاء الاصطناعي في عملية صنع القرار في العالم الحقيقي، يحتاج المستخدمون البشريون إلى معرفة العوامل التي يستخدمها النظام لتحديد النتيجة وهو الأمر الذي قد لا يكون مُتوفِّرًا بالفعل.
على سبيل المثال، إذا قال نموذج الذكاء الاصطناعي إنه يجب حرمان شخص ما من بطاقة الائتمان أو القرض، فيجب على البنك إخبار ذلك الشخص عن سبب اتِّخاذ القرار، وهو الأمر الذي لن يحدث إذا كان اتِّخاذ القرار يتم بالكامل بواسطة الذكاء الاصطناعي لأن البشر لن يكون باستطاعتهم فهم النمط المُعقّد الذي اعتمد عليه النظام للوصول إلى هذا القرار.
3. عدم اليقين
تمامًا مثل البشر، يُمكن لأنظمة الذكاء الاصطناعي أن ترتكب بعض الأخطاء. على سبيل المثال، قد تخطئ سيارة ذاتية القيادة في رؤية شاحنة مقطورة بيضاء تعبر طريقًا سريعًا. ولكن لكي يكون الذكاء الاصطناعي جديرًا بالثقة، يجب أن يكون قادرًا على التعرُّف على تلك الأخطاء قبل فوات الأوان. من الناحية المثالية، يجب أن يكون الذكاء الاصطناعي على الأقل قادرًا على تنبيه الإنسان أو بعض الأنظمة الثانويَّة لتولي المسؤولية عندما لا يكون واثقًا من عملية صنع القرار.
كما ذكرنا سابقًا، تعتمد نماذج الذكاء الاصطناعي على البيانات للتدريب، وإذا كانت البيانات غير كاملة أو مشوشة أو متحيزة، فيمكن أن تؤدي إلى عدم اليقين في تنبؤات النموذج. قد تفتقر البيانات غير المكتملة إلى ميزات أو أمثلة مُهمَّة، بينما تحتوي البيانات المزعجة على أخطاء أو تناقضات، وهو الأمر الذي يؤدي في النهاية إلى عدم الثقة المُطلقة في مدى دقّة أنظمة الذكاء الاصطناعي.
علاوةً على ذلك، قد يتم نشر نماذج الذكاء الاصطناعي في بيئات ديناميكية أو غير مُؤكَّدة حيث يمكن أن تتغير الظروف بسرعة. على سبيل المثال، يُمكن للمركبات ذاتية القيادة أن تتنقل في ظروف طرق وأنماط مروريَّة غير متوقعة أو غير التي تم تدريبها عليها، مما يؤدي إلى عدم اليقين في عمليات صنع القرار.
أضف إلى ذلك أنّ العديد من نماذج الذكاء الاصطناعي توفر تنبؤات احتمالية بدلاً من التنبؤات الحتمية. على سبيل المثال، قد يتنبأ النموذج باحتمالية وقوع حدث معين بدلاً من تقديم إجابة محددة بنعم أو لا. هذه الطبيعة الاحتمالية تُدخل بطبيعتها حالة من عدم اليقين في تنبؤات النموذج.
4. مدى التكيُّف مع الذكاء الاصطناعي
عندما يواجه الناس الذكاء الاصطناعي في حياتهم اليوميَّة، قد يميلون إلى تعديل سلوكهم وفقًا لكيفية فهمهم للنظام الذي يعمل به. وبعبارة أخرى، يُمكنهم التلاعب بالنظام. عندما يتم تصميم الذكاء الاصطناعي من قبل المهندسين واختباره في ظروف معمليَّة، فقد لا تنشأ هذه المشكلة، وبالتالي لن يتم وضعها في الاعتبار أثناء تصميم الذكاء الاصطناعي واتّخاذ التدابير اللازمة لتجنُّبها.
لنأخذ وسائل التواصل الاجتماعي كمثال، حيث تستخدم المنصات الذكاء الاصطناعي للتوصية بالمحتوى للمستخدمين، وغالبًا ما يتم تدريب الذكاء الاصطناعي لتحقيق أقصى قدر من المشاركة. وقد تتعلَّم أدوات الذكاء الاصطناعي أن المحتوى الأكثر استفزازًا أو استقطابًا يحظى بمزيد من التفاعل.
يُمكن أن يؤدي ذلك إلى إنشاء حلقة ردود فعل غير مقصودة يتم من خلالها تحفيز الأشخاص على إنشاء محتوى أكثر استفزازًا من أي وقت مضى لتحقيق أقصى قدر من المشاركة، خاصةً إذا كان الأمر يتعلق بالمبيعات أو الحوافز المالية الأخرى. وفي المقابل، يتعلم نظام الذكاء الاصطناعي التركيز بشكلٍ أكبر على المحتوى الأكثر إثارة.
وبالمثل، قد يكون لدى الناس حافز للإبلاغ عن البيانات بشكل خاطئ أو الكذب على نظام الذكاء الاصطناعي لتحقيق النتائج المرجوة. وفقًا لأستاذ علوم الكمبيوتر والاقتصاد في معهد كاليفورنيا للتكنولوجيا إريك مازومدار الذي يدرس هذا السلوك، فإنّ هناك الكثير من الأدلَّة على أن الناس يتعلمون التلاعب بالخوارزميات للحصول على ما يريدون. وهو الأمر الذي سيؤثِّر بالطبع سلبًا على مصداقيّة أجهزة الذكاء الاصطناعي.
5. التحيُز في البيانات
لكي تتعلَّم الآلة، فإنها تحتاج إلى بيانات لتتعلم منها أو تتدرب عليها. ومن أمثلة بيانات التدريب النصوص والصور ومقاطع الفيديو والأرقام والأكواد. في معظم الحالات، كلما كانت مجموعة البيانات أكبر، كان أداء الذكاء الاصطناعي أفضل. ولكنَّ المشكلة هي أنّه لا توجد مجموعة بيانات موضوعيَّة تمامًا، حيث يأتي كل منها مصحوبًا بتحيزات أو افتراضات وتفضيلات. ليست كل التحيزات غير عادلة، ولكن المصطلح يستخدم في أغلب الأحيان للإشارة إلى ميزة أو عيب غير عادل لمجموعة مُعيَّنة من الناس.
في حين قد يبدو أنَّ الذكاء الاصطناعي يجب أن يكون محايدًا لأنه ببساطة ليس لديه مشاعر إنسانيّة، إلا أنَّ الذكاء الاصطناعي يمكنه الكشف عن التحيزات الموجودة وتضخيمها عندما يتعلم من مجموعة البيانات. خذ على سبيل المثال نظام الذكاء الاصطناعي الذي تم تدريبه لتحديد السير الذاتية للمُرشَّحين الذين من المُرجَّح أن ينجحوا في الشركة.
نظرًا لأنّ الذكاء الاصطناعي يتعلَّم من سجلات الموارد البشريَّة لأداء المُوظَّفين السابقين، إذا قام المديرون في تلك الشركة سابقًا بتعيين مُوظَّفين ذكور وترقيتهم بمعدل أعلى، فسوف يتعلم الذكاء الاصطناعي أن الذكور هم أكثر عرضةً للنجاح، وسيختار عددًا أقل من السير الذاتية للمُرشحات الإناث.
وبهذه الطريقة، يستطيع الذكاء الاصطناعي تشفير التحيُّزات البشرية التاريخيّة، وتسريع عملية اتخاذ القرار المتحيزة وإعادة خلق وإدامة عدم المساواة المجتمعية. يُمكن أخذ نماذج اللغات الكبيرة كمثال آخر – والتي تُستخدم أحيانًا لتشغيل برامج الدردشة الآلية – حيث إنّها مُعرّضة بشكلٍ خاص للتحيّز. فعندما يتم تدريبهم على البيانات من الإنترنت والتفاعلات مع أناس حقيقيين، يمكن لهذه النماذج تكرار المعلومات الخاطئة والدعاية والخطاب السام. في أحد الأمثلة سيئة السمعة، أمضى روبوت مايكروسوفت تاي 24 ساعة في التفاعل مع الأشخاص على تويتر وتعلم تقليد الافتراءات العنصرية والتصريحات الفاحشة.
كيف يمكننا أن نجعل الذكاء الاصطناعي جديرًا بالثقة؟
في البداية، من المُهم جعل أنظمة الذكاء الاصطناعي شفَّافة وقابلة للتفسير حتى يتمكَّن المستخدمون من فهم كيفية عملها ولماذا تتخذ قرارات مُعيَّنة. فحجر الأساس وراء موثوقيّة أجهزة الذكاء الاصطناعي يكمُن في القدرة على فهم الأسباب الكامنة وراء قرارات الذكاء الاصطناعي.
من المُهم كذلك التأكّد من أنَّ أنظمة الذكاء الاصطناعي عادلة وغير مُتحيِّزة من خلال فحص بيانات التدريب بعناية، وتحديد مصادر التحيز والتخفيف منها، ومراقبة أنظمة الذكاء الاصطناعي ومراجعتها بانتظام لضمان عدم تحيُّزها. يُمكن أن تساعد تقنيات مثل “الخوارزميات المُدركة للعدالة” و”أدوات الكشف عن التحيز” في تخفيف هذا النوع من التحيُّز في أنظمة الذكاء الاصطناعي، وبالتالي زيادة موثوقيّتها.
ومن خلال تمكين المستخدمين وإشراكهم في عمليّة اتخاذ القرارات بواسطة أنظمة الذكاء الاصطناعي عبر تزويدهم بالمعلومات والأدوات والموارد اللازمة، فإنّنا نكون قد قطعنا شوطًا كبيرًا في زيادة موثوقيّة أجهزة الذكاء الاصطناعي ومُعالجة مخاوف المُستخدمين بشأن أي أخطاء مُحتملة.
في الوقت الحالي، تعمل شركات الذكاء الاصطناعي على تصميم أنظمة ذكاء اصطناعي يمكنها اكتشاف التحيز في سيناريوهات العالم الحقيقي. ومع أنظمة الذكاء الاصطناعي المُعدّلة، ستصبح الأمور أفضل، حيث يُمكن تطوير أساليب لقياس أدائهم وتحيُّزاتهم.
على سبيل المثال، يُمكن للبشر إنشاء مزيد من اختبار السيارات ذاتية القيادة والآلات الأخرى للتأكّد من تغطية جميع السيناريوهات حتى المُستبعدة منها، حيث يُمكن للمُصنِّعين استخدام الذكاء الاصطناعي لإنشاء سيناريوهات غير آمنة لا يمكن اختبارها في الحياة الواقعية
سواء كنت مبتدئًا يسعى لبناء أسسه في هذا المجال المثير، أو محترفًا يسعى لتطوير مهاراته، هذه الدورات الأونلاين ستمنحك فرصة الاستفادة القصوى دورات الذكاء الاصطناعي
وبينما نختتم استكشافنا لدقَّة وموثوقيَّة أجهزة الذكاء الاصطناعي، يصبح من الواضح أن هذه التقنيات المبتكرة تحمل وعودًا هائلة ولكنها تمثل أيضًا تحديات كبيرة. لقد رأينا كيف يمكن لأنظمة الذكاء الاصطناعي تحقيق دقة ملحوظة في مهام محددة، متجاوزةً القدرات البشرية في كثير من الحالات. ومع ذلك، فقد أدركنا أيضًا التعقيدات والشكوك الكامنة في تكنولوجيا الذكاء الاصطناعي، والتي يمكن أن تؤثر على موثوقيتها وما إذا كان يُمكننا الاعتماد عليها أم لا.
وعلى الرغم من هذه التحديات فهناك سبب للتفاؤل، حيث تُوفِّر الوتيرة السريعة للتقدُّم التكنولوجي إلى جانب جهود البحث والتطوير المستمرة فرصًا لمعالجة القيود المفروضة على أجهزة الذكاء الاصطناعي وتحسين أدائها. وبالنظر إلى المستقبل، فإنَّ التعاون بين الباحثين والمُطوِّرين وصُنَّاع السياسات سيكون عاملًا حاسما في المضي قدمًا بهذه الطفرة التكنولوجيّة الهائلة إلى الأمام.
