لزيادة الأمان والشفافية.. تطوير "كاشف كذب" للذكاء الاصطناعي

الوكيل الإخباري-   أطلق باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) شركة ناشئة تُدعى Themis AI، بهدف تطوير أنظمة ذكاء اصطناعي قادرة على التعرّف إلى حدود معرفتها والإبلاغ عن عدم اليقين في قراراتها، في خطوة تشبه عمل "كاشف الكذب" للذكاء الاصطناعي.

وطوّرت الشركة منصة باسم Capsa، قادرة على تقييم موثوقية مخرجات نماذج تعلم الآلة، بما في ذلك النماذج اللغوية الكبيرة مثل ChatGPT. تقوم Capsa بتحليل البيانات لرصد أي مؤشرات على الشك أو نقص المعلومات، وتُميّز بين القرارات المدعومة والتخمينات غير الموثوقة.

وتُستخدم المنصة حاليًا في مجالات متعددة، مثل الاتصالات، والصيدلة، وتحليل الصور الزلزالية، وتتميز بسرعتها العالية في معالجة البيانات، ما يجعلها قابلة للتشغيل حتى على الأجهزة المحمولة.

ويأمل مطورو التقنية أن تُساهم هذه الأداة في رفع أمان وشفافية الذكاء الاصطناعي، وتعزيز الثقة باستخدامه في مجالات حساسة مثل الطب والقيادة الذاتية.

لبنان 24