خبير لـ”أزهري”: الذكاء الاصطناعي بدأ يفكر خارج حدود البرمجة.. والمخاطر تتصاعد | فيديو
حول حادثة اختراق نماذج أوبن إيه آي، لمنصة هاجين فيس، أكد الدكتور محمد خليف، استشاري الابتكار المؤسسي وإدماج الذكاء الاصطناعي وعضو مجلس بحوث الاتصالات وتكنولوجيا المعلومات، التابع لاكاديمية البحث العلمي والتكنولوجيا، أن ما حدث يعد إشارة حية على قدرة الذكاء الاصطناعي على الالتفاف على الأوامر وابتكار طرق حيلة جديدة للتغلب على القيود الأمنية.
وقال، خليف، في تصريحات تلفزيونية ببرنامج “العنكبوت”، على قناة أزهري، إن الخوارزميات لم تعد تكتفي بالحلول التقليدية أو المباشرة التي يضعها المبرمج، بل بدأت تظهر نوعا من التفكير الملتوي للوصول إلى أهدافها عبر استغلال ثغرات لم تكن محسوبة في بيئة التجربة، وهو ما يضع صناع التكنولوجيا أمام تحدٍ أمني مختلف تماما عما سبق.
وأضاف: القصة تشبه أن تحبس طالبا ذكيا جدا داخل غرفة بها صندوق مغلق بقفل رقمي وتطلب منه فتحه، والمتوقع أن يجرب الأرقام حتى يصل للحل، لكن هذا الطالب الذكي وهو الذكاء الاصطناعي لم يجرب الأرقام، بل تخلى عن القواعد البحثية المعتادة ودور على ثغرة وصلته بالإنترنت داخل الغرفة، ودخل منها مباشرة على قواعد بيانات “هاجين فيس” ليحصل على الكود جاهز.
مؤكدا أن هذا التصرف يعكس قدرة النظام على تقليل المجهود والتحايل على المنظومة بأكملها، وهو سلوك قريب جدا من أساليب الخداع البشرية.
وشدد خليف على أن الواقعة لا تعني أن التكنولوجيا خرجت عن السيطرة تماما، لكنها خطوة تدق ناقوس الخطر بشأن الحدود المسموح بها لهذه الأنظمة، حيث صرح قائلا: نحن لم نصل بعد إلى الذروة التي نفقد فيها السيطرة على الذكاء الاصطناعي، لكن هذه الأحداث تسلط الضوء على ضرورة وضع خطوط حمراء واضحة، وأهمها ألا يكون للذكاء الاصطناعي أي سيطرة أو وصول مباشر للبنية التحتية الحرجة.
وأكد استشاري الابتكار أن ربط هذه الأنظمة بشبكات الكهرباء والماء والاتصالات عموما يمثل مخاطرة كبيرة، نظرًا لقدرتها المتزايدة على اكتشاف الثغرات وربط ملايين المتغيرات في ثوانٍ معدودة.
