دراسة تحذر من تعرض أنظمة الذكاء الاصطناعي لـ"تلف دماغي رقمي" - فيديو Dailymotion

Alarabiya العربية

دراسة تحذر من خطر تعرض أنظمة الذكاء الاصطناعي التوليدية لـ"تلف دماغي رقمي": قد تواجه ضعفا في التفكير والاستنتاج واتخاذ قرارات غير منطقية #نشرة_الخامسة #قناة_العربية

Transcript

00:00وسائل التواصل الاجتماعي تفسد الجيل الجديد

00:04ولكن هذه المرة ليس جيل Z أو جيل Alpha

00:08ولكن جيل AI

00:10فالبيانات الرضيئة أصبحت تؤثر أيضاً بشكل مختلف

00:13على جيل الذكاء الاصطناعي

00:15وهذا ما ورد في دراسة علمية جديدة لجامعة تكساس

00:19كشفت أن أنظمة الذكاء الاصطناعي التولدية

00:22مثل روبوتات المحادثة

00:24يمكن أن تتعرض لما يشبه تلفاً دماغياً رقمياً

00:28إذا تم تدريبها على كميات كبيرة من البيانات الرضيئة

00:32المنتشرة على وسائل التواصل الاجتماعي

00:36ضعف في التفكير والاستنتاج وقرارات خاطئة أو غير منطقية

00:43فوفق هذه الدراسة هذا ما يحدث لأدمغة الذكاء الاصطناعي

00:47حيث تغذى بمحتوى قصير وسطحي أو مثير للجدل

00:51كما هو شائع على منصات التواصل الاجتماعي مثل X وتيك توك وريدت

00:56فهذه النتائج الفاسدة لا تنتج بسبب اللغة بحد ذاتها

01:01بل في جودة المعنى والمحتوى المشرف على هذه الدراسة

01:06أشار إلى أنه حتى ولو كان النص مكتوباً بشكل صحيح لغوياً

01:11يمكن أن يكون فقيراً في المضمون أو مضللاً

01:15ما يفسد النموذج من الداخل

01:18أما الخطر الأكبر فيأتي من التغييرات السلوكية

01:22فقد لحظ أن نموذج لاما

01:26الذي كان يميل إلى صفات مثل الانفتاح والضمير والود

01:30أصبح أكثر نرجسية وعدوانية

01:32بل ظهرت عليه سمات نفسية مرضية

01:35بعد تدريبه على بيانات من التواصل الاجتماعي

01:40أما محاولات الإصلاح لتفادي تغذية ما أسمته الدراسة القمامة الرقمية

01:46فباءت جميعها بالفشل إذ جرب فريق البحث تعديلات التعليمات لتحسين الأداء

01:51لكن التحسن كان جزئياً فقط

01:53وحتى عندما طلب من النماذج مراجعة تفكيرها وتصحيح أخطائها

01:57واصلت القفزة على الخطوات المنطقية

02:00الدراسة الأكاديمية إذن خلصت في نتيجتها إلى أن القمامة تدخل

02:06القمامة تخرج وهذا يعني أنه عندما تغذي الأنظمة بمعلومات غير جيدة

02:11فإن النتائج حتماً ستكون غير جيدة

02:14فيما يرى باحثون أن الحل هنا يكمن في تقنية البيانات بدقة

02:19واستبعاد المحتوى السطحي أو الشعبوي

02:22قبل استخدامه في تدريب نماذج الذكاء الاصطناعي

02:25وإلا فسيتحول الذكاء الاصطناعي بمرور الوقت إلى ذكاء مشوه

02:29يفتقر إلى المنطق وإلى الأخلاق

دراسة تحذر من تعرض أنظمة الذكاء الاصطناعي لـ"تلف دماغي رقمي"

Category

Transcript

Be the first to comment

Recommended