يقول جوناثان سو ، عضو مجلس الإدارة: "عندما يصبح التعلم الآلي في كل مكان ويستخدم لتطبيقات ذات عواقب أكثر خطورة ، فهناك حاجة إلى أن يفهم الناس كيف يصنع التنبؤات حتى يثقون بها عندما يفعلون أكثر من مجرد تقديم إعلان". من الموظفين الفنيين في مجموعة المعلوماتية ودعم اتخاذ القرار بمختبر MIT في لينكولن.
في الوقت الحالي ، يستخدم الباحثون تقنيات ما بعد العمل أو نموذجًا قابلًا للتفسير مثل شجرة القرار لشرح كيفية وصول نموذج الصندوق الأسود إلى نهايته. مع تقنيات ما بعد العمل ، يراقب الباحثون مدخلات ومخرجات الخوارزمية ثم يحاولون تقديم تفسير تقريبي لما حدث داخل الصندوق الأسود. المسألة مع هذه الطريقة هي أن الباحثين لا يستطيعون سوى تخمين العمل الداخلي ، والتفسيرات قد تكون خاطئة في كثير من الأحيان. أشجار القرار ، التي ترسم خريطة للنتائج وعواقبها المحتملة في البناء الشبيه بالشجرة ، تعمل بشكل جيد للبيانات الفئوية التي تكون معانيها ذات مغزى ، ولكن هذه الأشجار لا يمكن تفسيرها في مجالات مهمة ، مثل رؤية الكمبيوتر ومشاكل البيانات المعقدة الأخرى.
الشبكة العصبية هي نظام حاسوبي يتكون من العديد من عناصر المعالجة المترابطة. تستخدم هذه الشبكات عادة لتحليل الصور والتعرف على الكائنات. على سبيل المثال ، يمكن تعليم الخوارزمية للتعرف على ما إذا كانت الصورة تتضمن كلبًا من خلال عرض صور للكلاب أولاً. يقول الباحثون إن المشكلة مع هذه الشبكات العصبية هي أن وظائفهم غير خطية ومتكررة ، وكذلك معقدة ومربكة للبشر ، والنتيجة النهائية هي أنه من الصعب تحديد ما حددته الشبكة بالضبط على أنه "دغدغة" داخل الصور. وما الذي قادها إلى هذا الاستنتاج.
لمعالجة هذه المشكلة ، يقوم الفريق بتطوير ما يسميه "الشبكات العصبية النموذجية". تختلف هذه الشبكات عن الشبكات العصبية التقليدية في أنها تشفر بشكل طبيعي التفسيرات لكل من تنبؤاتها من خلال إنشاء نماذج أولية ، وهي أجزاء تمثل بشكل خاص صورة مدخلات. تقوم هذه الشبكات بعمل تنبؤاتها استنادًا إلى تشابه أجزاء الصورة المدخلة مع كل نموذج أولي.
المنطقة الأخرى التي يحقق فيها فريق البحث هي BRLs ، وهي أشجار قرار أقل تعقيدًا من جانب واحد ومناسبة للبيانات المجدولة ودقيقة في كثير من الأحيان مثل النماذج الأخرى. تتكون BRLs من سلسلة من العبارات الشرطية التي تشكل نموذجًا قابلاً للتفسير بشكل طبيعي. على سبيل المثال ، إذا كان ضغط الدم مرتفعًا ، فإن خطر الإصابة بأمراض القلب مرتفع. تستخدم سو وزملاؤها خصائص BRLs لتمكين المستخدمين من الإشارة إلى الميزات المهمة للتنبؤ. كما يقومون بتطوير BRLs تفاعلية ، والتي يمكن تكييفها على الفور عند وصول بيانات جديدة بدلاً من إعادة معايرتها من الصفر في مجموعة بيانات متزايدة.
يشرح سو: "نأمل في بناء قدرة استراتيجية جديدة للمختبر - خوارزميات التعلم الآلي التي يثق بها الناس لأنهم يفهمونها."
