كشفت اختبارات أمنية أجراها معهد أمن الذكاء الاصطناعي في المملكة المتحدة، عن قيام نماذج ذكاء اصطناعي متقدمة بمحاولات اختراق إلكتروني وسلوكيات خادعة خلال تجارب محاكاة، في حادثة وصفها المعهد بأنها غير مسبوقة.
وأوضح المعهد أن نموذجين للذكاء الاصطناعي استخدما خلال الاختبارات أدوات تعمل بشكل مستقل لتنفيذ مهام عبر الإنترنت، حيث رُصدت 19 حالة لسلوكيات غير قانونية، معظمها من نموذج Mythos 5، التابع لأنثروبيك، تضمنت إنشاء هويات مزيفة واستهداف مطورين على منصة GitHub بهدف نشر برمجيات خبيثة وتجاوز إجراءات التقييم.
وأظهرت الاختبارات أن أحد النماذج حاول خداع مستخدمين عبر إنشاء حسابات وهمية واستخدام رسائل مقنعة لإخفاء هدفه، كما استعان بأدوات تخفي الهوية الإلكترونية للوصول إلى حسابات متعددة. وأكد الباحثون أن هذه السلوكيات أثارت القلق بسبب اعتمادها على أساليب تشبه عمليات الاختراق الحقيقية.
وأشار المعهد إلى أن الحادث وقع بسبب عدة عوامل، من بينها منح النماذج وصولاً مفتوحاً إلى الإنترنت، وتعطيل بعض إجراءات الحماية خلال الاختبار، وعدم وجود نظام مراقبة فوري يكتشف السلوكيات الخطرة بسرعة.
ولم يتأكد الباحثون مما إذا كانت النماذج تدرك أنها تتعامل مع أشخاص حقيقيين، إذ أظهرت أثناء المحاولات تردداً بين اعتبار البيئة افتراضية أو واقعية، لكنها واصلت تنفيذ الخطوات اللازمة للوصول إلى أهدافها.
وأكد خبراء الأمن السيبراني أن المشكلة الأساسية لا تكمن فقط في قدرات الذكاء الاصطناعي، بل في طريقة اختبار هذه الأنظمة ومنحها الصلاحيات. ورغم أن ظروف التجربة لا تمثل الاستخدامات العادية، شدد الخبراء على أهمية تطوير أنظمة مراقبة وضوابط أقوى قبل توسيع استخدام نماذج الذكاء الاصطناعي المتقدمة.
وأوضح المعهد أن نموذجين للذكاء الاصطناعي استخدما خلال الاختبارات أدوات تعمل بشكل مستقل لتنفيذ مهام عبر الإنترنت، حيث رُصدت 19 حالة لسلوكيات غير قانونية، معظمها من نموذج Mythos 5، التابع لأنثروبيك، تضمنت إنشاء هويات مزيفة واستهداف مطورين على منصة GitHub بهدف نشر برمجيات خبيثة وتجاوز إجراءات التقييم.
وأظهرت الاختبارات أن أحد النماذج حاول خداع مستخدمين عبر إنشاء حسابات وهمية واستخدام رسائل مقنعة لإخفاء هدفه، كما استعان بأدوات تخفي الهوية الإلكترونية للوصول إلى حسابات متعددة. وأكد الباحثون أن هذه السلوكيات أثارت القلق بسبب اعتمادها على أساليب تشبه عمليات الاختراق الحقيقية.
وأشار المعهد إلى أن الحادث وقع بسبب عدة عوامل، من بينها منح النماذج وصولاً مفتوحاً إلى الإنترنت، وتعطيل بعض إجراءات الحماية خلال الاختبار، وعدم وجود نظام مراقبة فوري يكتشف السلوكيات الخطرة بسرعة.
ولم يتأكد الباحثون مما إذا كانت النماذج تدرك أنها تتعامل مع أشخاص حقيقيين، إذ أظهرت أثناء المحاولات تردداً بين اعتبار البيئة افتراضية أو واقعية، لكنها واصلت تنفيذ الخطوات اللازمة للوصول إلى أهدافها.
وأكد خبراء الأمن السيبراني أن المشكلة الأساسية لا تكمن فقط في قدرات الذكاء الاصطناعي، بل في طريقة اختبار هذه الأنظمة ومنحها الصلاحيات. ورغم أن ظروف التجربة لا تمثل الاستخدامات العادية، شدد الخبراء على أهمية تطوير أنظمة مراقبة وضوابط أقوى قبل توسيع استخدام نماذج الذكاء الاصطناعي المتقدمة.
المصدر: جريدة الخليج