أطلقت Microsoft ميزة جديدة تسمى “التصحيح” ضمن جهودها لمعالجة أخطاء الذكاء الاصطناعي، وهي خطوة جديدة في تحسين أمان ودقة أنظمة الذكاء الاصطناعي. هذه الميزة متاحة لعملاء Microsoft Azure، الذين يعتمدون على النظام لتشغيل أنظمة الذكاء الاصطناعي الخاصة بهم، وتتيح لهم اكتشاف الأخطاء في مخرجات الذكاء الاصطناعي وتصحيحها تلقائيًا.
ما هي ميزة “التصحيح”؟
تأتي ميزة التصحيح كجزء من أدوات الأمان المتوفرة في Azure AI Studio. تساعد هذه الأدوات على الكشف عن الثغرات في مخرجات الذكاء الاصطناعي، بما في ذلك الأخطاء المعروفة بـ “الهلوسات” التي تنتج أحيانًا من نماذج الذكاء الاصطناعي. بالإضافة إلى ذلك، يمكنها حجب التعليمات الضارة وضمان سلامة المخرجات.
كيف تعمل أداة التصحيح؟
بمجرد تفعيل نظام التصحيح، يقوم بمسح مخرجات الذكاء الاصطناعي وتحليلها بحثًا عن الأخطاء. يتم ذلك عن طريق مقارنة المخرجات مع المواد الأصلية المقدمة من العميل. في حالة وجود خطأ، تقوم الأداة بتحديده وتقديم تفسير عن سبب كونه خطأ، ومن ثم تعيد كتابة المحتوى بالشكل الصحيح. والميزة الأبرز هنا أن الأداة تقوم بكل ذلك “قبل أن يطلع المستخدم على المخرجات الخاطئة.”
تحديات وقيود أداة التصحيح
رغم أن هذه الميزة تبدو كحل عملي للحد من الأخطاء التي قد تنتج عن نماذج الذكاء الاصطناعي، إلا أنها ليست حلاً كاملاً. فحتى مع استخدام نماذج لغوية صغيرة وكبيرة لمواءمة المخرجات مع المستندات الأساسية، إلا أن الأداة قد تقع في الأخطاء أيضًا. كما أوضحت Microsoft في بيان لها، أن “الكشف عن الأخطاء المرتبطة بالمستندات الأساسية لا يحل مشكلة الدقة بالكامل، بل يساعد فقط في مواءمة المخرجات.”
أدوات مشابهة من Google
Microsoft ليست الوحيدة في هذا المجال، حيث تمتلك Google أداة مشابهة تدعى “Grounding” ضمن منصتها Vertex AI. تقوم هذه الأداة بمراجعة مخرجات الذكاء الاصطناعي بمقارنتها مع بيانات Google Search أو بيانات الشركة نفسها أو حتى مع قواعد بيانات خارجية. تعتبر هذه الأداة محاولة أخرى لضمان موثوقية مخرجات الذكاء الاصطناعي.
تحسين الأمان في أنظمة الذكاء الاصطناعي
تأتي هذه المزايا الجديدة ضمن مساعي Microsoft لتعزيز الأمان وتقليل المخاطر في استخدام أنظمة الذكاء الاصطناعي. فمع تنامي الاعتماد على هذه التكنولوجيا في مجالات متعددة، من الضروري توفير أدوات تضمن موثوقية المخرجات وتجنب الأخطاء التي قد تكون لها عواقب سلبية.
أهمية التصحيح التلقائي في المستقبل
مع توسع استخدام الذكاء الاصطناعي في الحياة اليومية، سيكون من المهم توفير تقنيات قادرة على تصحيح الأخطاء بشكل تلقائي وفعال. هذه الخطوة من Microsoft تمثل بداية للتغلب على التحديات المرتبطة بدقة المخرجات، ولكنها ليست الحل النهائي. تظل هناك حاجة لمزيد من التطوير والابتكار في هذا المجال لضمان أن الذكاء الاصطناعي يقدم مخرجات دقيقة وآمنة.
في ظل هذا التطور، تظل أداة التصحيح من Microsoft خطوة واعدة نحو تحسين دقة وأمان أنظمة الذكاء الاصطناعي. لكنها ليست خالية من القيود، مما يعني أن مستقبل هذه الأدوات سيعتمد على الابتكار المستمر وتطوير طرق جديدة للتعامل مع الأخطاء المحتملة.
