أشارت دراسة جديدة إلى ثغرة أمنية ضخمة في الذكاء الاصطناعي قد تعرض حياة الإنسان للخطر، وتشير الدراسة إلى أن هذا الاكتشاف يجب أن يؤدي إلى إعادة التفكير بشكل كامل في كيفية استخدام الذكاء الاصطناعي في الروبوتات.
وفقًا لدراسة جديدة، فإن خللًا أمنيًا كبيرًا في الأنظمة الذكية اصطناعيًا قد يهدد حياة البشر.
حذر الباحثون من أن الأنظمة الروبوتية التي تستخدم الذكاء الاصطناعي لاتخاذ القرارات قد تكون معطلة وأن هذه الأنظمة ليست آمنة.
نظر العمل الجديد في نماذج اللغة الكبيرة، أو LLMs، وهي التكنولوجيا التي تدعم أنظمة مثل ChatGPT. تُستخدم أيضًا تكنولوجيا مماثلة في الروبوتات، للتحكم في قرارات الآلات في العالم الحقيقي.
لكن هذه التكنولوجيا بها ثغرات أمنية ونقاط ضعف يمكن أن يستغلها المتسللون لاستخدام الأنظمة بطرق غير مقصودة، وفقًا للبحث الجديد من جامعة بنسلفانيا.
تعليق على الدراسة
قال جورج باباس، أستاذ في الجامعة أحد المشاركين في الدراسة: “يُظهر عملنا أنه في هذه اللحظة، نماذج اللغة الكبيرة ليست آمنة بما يكفي عند دمجها مع العالم المادي”.
وقد أظهر البروفيسور باباس وزملاؤه أنه من الممكن تجاوز حواجز الأمان في مجموعة من الأنظمة المستخدمة حاليًا، وتشمل هذه الأنظمة نظامًا ذاتي القيادة يمكن اختراقه لجعل السيارة تمر عبر المعابر، على سبيل المثال.
ويعمل الباحثون وراء الورقة البحثية مع مبتكري هذه الأنظمة لتحديد نقاط الضعف والعمل ضدها. لكنهم حذروا من أن الأمر يتطلب إعادة التفكير بشكل كامل في كيفية صنع مثل هذه الأنظمة، بدلًا من إصلاح نقاط ضعف محددة.
وتشير نتائج هذه الورقة البحثية توضح تمامًا أن اتباع نهج يضع السلامة أولًا أمر بالغ الأهمية لإطلاق العنان للابتكار المسؤول، ويجب علينا معالجة نقاط الضعف الجوهرية قبل نشر الروبوتات التي تعمل بالذكاء الاصطناعي في العالم الحقيقي.
زفي الواقع، يطور البحث الجديد إطارًا للتحقق والتحقق يضمن أن الإجراءات التي تتوافق مع المعايير الاجتماعية فقط يمكن ويجب أن تتخذها الأنظمة الروبوتية.
ما هو الذكاء الاصطناعي؟
الذكاء الاصطناعي (AI) هو مجال علوم الكمبيوتر المخصص لحل المشكلات المعرفية المرتبطة عادةً بالذكاء البشري، مثل التعلم والإبداع والتعرف على الصور.
وتجمع المؤسسات الحديثة كمياتٍ كبيرةً من البيانات من مصادر متنوعة مثل أجهزة الاستشعار الذكية والمحتوى الذي ينشئه الإنسان وأدوات المراقبة وسجلات النظام. الهدف من الذكاء الاصطناعي هو إنشاء أنظمة ذاتية التعلم تستخلص المعاني من البيانات.
