ما هي سلبيات الذكاء الاصطناعي؟

ما هي سلبيات الذكاء الاصطناعي؟

يظهر الذكاء الاصطناعي بشكل متكرر مع تقدم التكنولوجيا ويقوم موفرو البرامج ببناء الذكاء الاصطناعي ودمجه في منتجاتهم. من المتوقع أن يشهد العالم زيادة في الناتج المحلي الإجمالي مدفوعة بالذكاء الاصطناعي بمقدار 15.7 تريليون دولار بحلول عام 2030. يستمر استخدام الذكاء الاصطناعي في النمو عبر المنظمات والصناعات. مع زيادة فوائد أنظمة الذكاء الاصطناعي ، تزداد المخاطر المرتبطة بهذه الأدوات ، فما هي تلك المخاطر؟ هل فوائد الذكاء الاصطناعي تفوق المخاطر؟ فيما يلي إجابات لهذه الأسئلة:

ما هي سلبيات الذكاء الاصطناعي؟

ما هي سلبيات الذكاء الاصطناعي؟ هناك العديد من المخاطر المحتملة للذكاء الاصطناعي ، فمع توسع قدرات الذكاء الاصطناعي وانتشارها ، ستستمر المخاطر المرتبطة به في التطور ، وفيما يلي أكثر المخاطر الخمسة شيوعًا للذكاء الاصطناعي.

1- يفتقر تطبيق الذكاء الاصطناعي إلى إمكانية التتبع

من منظور إدارة المخاطر ، نبدأ عادةً بقائمة جرد للأنظمة والنماذج التي تتضمن الذكاء الاصطناعي ، ويتيح لنا استخدام مجالات المخاطر تتبع مخاطر الذكاء الاصطناعي وتقييمها وتحديد أولوياتها والتحكم فيها.

لسوء الحظ ، فإن الشعبية المتزايدة للتكنولوجيا تعني أنه يتم تنفيذها بشكل متزايد خارج نطاق فرق تكنولوجيا المعلومات الرسمية ، حيث أظهرت دراسة McAfee أن 80 ٪ من موظفي المؤسسة يستخدمون تطبيقات SaaS (خدمة برمجية) غير معتمدة ، وليس ضارًا أيضًا ، ولكن لتحسين الإنتاجية. قد تختار الإدارات أنظمة قائمة على العمليات سهلة الشراء تتضمن مكونات الذكاء الاصطناعي ، وفي بعض الأحيان ، قد تجلب ترقيات النظام الروتينية الذكاء الاصطناعي إلى التطبيقات ،

2. إدخال التحيز الإجرائي في صنع القرار

أحد أكثر المخاطر المدمرة للذكاء الاصطناعي هو إدخال التحيز في خوارزميات صنع القرار. تتعلم أنظمة الذكاء الاصطناعي من مجموعات البيانات التي تم تدريبها عليها. اعتمادًا على كيفية حدوث هذا التجميع ، قد تعكس مجموعات البيانات الافتراضات أو التحيزات التي يمكن أن تؤثر بعد ذلك على عمليات صنع القرار في النظام.

3. مصدر البيانات وانتهاك الخصوصية الشخصية

تتوقع مؤسسة البيانات الدولية أن ينمو مجال البيانات العالمي من 33 تريليون غيغابايت في عام 2018 إلى 175 غيغابايت في عام 2025 ، مع توفر كميات هائلة من البيانات المنظمة وغير المهيكلة للشركات للتعدين والمعالجة.

مع انتشار الذكاء الاصطناعي ، ستصبح حماية الخصوصية الشخصية أكثر صعوبة. عندما يتم اختراق البيانات أو اختراقها ، يمكن أن تكون العواقب الناتجة ضررًا خطيرًا لسمعة الشركة ومن المحتمل أن تكون غير قانونية ، ويقوم العديد من المشرعين الآن بإصدار لوائح تقيد كيفية معالجة البيانات الشخصية.

4. خوارزميات الصندوق الأسود ونقص الشفافية

الغرض الأساسي من العديد من أنظمة الذكاء الاصطناعي هو إجراء تنبؤات ، لذلك يمكن أن تكون الخوارزميات معقدة للغاية لدرجة أنه حتى الأشخاص الذين قاموا بإنشائها لا يمكنهم شرح كيفية توافق المتغيرات معًا للوصول إلى التنبؤات ، وهذا الافتقار إلى الشفافية هو السبب في بعض الإشارات إلى الخوارزميات على أنها ” الصندوق الأسود “ولماذا بدأ المنظمون الآن في التحقيق في الضوابط والتوازنات التي قد تكون مطلوبة ، على سبيل المثال ، لرفض عملاء البنوك استنادًا إلى تنبؤات الذكاء الاصطناعي بشأن أهليتهم الائتمانية ، حيث تخاطر الشركات بعدم القدرة على تفسير السبب.

5. المسؤوليات غير واضحة

نظرًا للمخاطر المحتملة للذكاء الاصطناعي التي تجري مناقشتها حاليًا ، فإن هذه المخاوف تثير تساؤلات حول المسؤولية القانونية. إذا كانت أنظمة الذكاء الاصطناعي مصممة بخوارزميات غامضة ، ويسمح التعلم الآلي لاتخاذ القرار بتحسين نفسه ، فمن المسؤول قانونًا عن النتائج؟ هل هي الشركة أم المبرمج أم النظام؟ هذا الخطر ليس نظريًا ؛ في عام 2018 ، قتلت سيارة ذاتية القيادة أحد المشاة ، وفي هذه الحالة لم يكن السائق الاحتياطي البشري للسيارة منتبهًا وكان نظام الذكاء الاصطناعي مسؤولاً عند تعطله.

هل فوائد الذكاء الاصطناعي تفوق المخاطر؟

ما هي سلبيات الذكاء الاصطناعي؟ مخاطر الذكاء الاصطناعي ضخمة ، ولكن استخدام وتطوير هذه الأدوات أمر حتمي أيضًا ، لأن الفوائد ليست فقط مكاسب كفاءة بسيطة ، ولكن أيضًا سيناريوهات اتخاذ قرارات أكثر عدلاً عند تدريب الخوارزميات لتجنب التحيز ، مع زيادة منظورنا. فهم إدارة المخاطر والتدقيق ، يجب أن نبحث عن المزايا الرئيسية في أنظمة الذكاء الاصطناعي:

يجب أن تتضمن أنظمة الذكاء الاصطناعي وثائق تصميم واضحة.

يجب أن يشمل التعلم الآلي الاختبار والتحسين.

يجب أن يكون للتحكم والحوكمة في الذكاء الاصطناعي الأسبقية على الخوارزميات والكفاءة.

نتحمل جميعًا مسؤولية معرفة المزيد عن مخاطر الذكاء الاصطناعي والتحكم فيها. لن يختفي هذا الموضوع. ستستمر المخاطر في النمو والتغير مع تقدم التكنولوجيا وانتشارها في كل مكان ، وستكون المنظمات التي تتبنى النقاط الرئيسية الثلاث أعلاه أكثر قدرة على إدارة مخاطر العواقب القانونية الخطيرة المحتملة لأنظمة الذكاء الاصطناعي.

للتعرف علي : ما هي سلبيات الذكاء الاصطناعي؟