جوجل تقيّد الوصول إلى نموذج الذكاء الاصطناعي الجديد بسبب مخاوف تتعلق بالأمن السيبراني وإساءة الاستخدام

تتبنى جوجل نهجًا حذرًا تجاه أحدث نماذجها للذكاء الاصطناعي، حيث تحد من الوصول إليها لمجموعة مختارة من باحثي وخبراء الأمن السيبراني نظرًا للمخاوف من إمكانية إساءة استخدام قدراتها المتقدمة من قبل المهاجمين.

أعلنت الشركة أن أقوى نماذجها، Gemini 4 Argon، لن يتم طرحه للجمهور على نطاق واسع في البداية. بدلاً من ذلك، تخطط جوجل للعمل مع مختبرين مختارين لتقييم قدرات النموذج ومخاطره الأمنية قبل النظر في طرحه على نطاق أوسع. وقال كبير مهندسي الذكاء الاصطناعي في جوجل، كوراي كافوكوغلو، في منشور على مدونة الشركة، إن النماذج ذات القدرات على هذا المستوى تتطلب عملية إصدار تدريجية لضمان إمكانية نشرها بأمان. كما ذكرت الشركة أنها توفر طواعيةً للحكومة الأمريكية إمكانية الوصول المبكر إلى برنامج أرجون، وستستخدم ملاحظات الحكومة والمختبرين الخارجيين كجزء من عملية التقييم. يُنشئ الذكاء الاصطناعي المتقدم مخاطر جديدة للأمن السيبراني. ويعكس الطرح المحدود قلقًا متزايدًا بين باحثي الأمن السيبراني من أن نماذج الذكاء الاصطناعي ذات القدرات المتزايدة قد تُقلل من... حاجز تقني أمام الهجمات الإلكترونية المعقدة.

أعلنت جوجل أن نظام أرجون يتمتع بقدرات فائقة في هندسة البرمجيات، والمهام القانونية والمالية، بالإضافة إلى الأمن السيبراني. وتُعد قدرته على تحديد ومعالجة الثغرات الأمنية الحرجة في البرمجيات أحد المجالات التي حظيت باهتمام خاص.

خلال الاختبارات الأولية، ذكرت جوجل أن أرجون حدد ثغرة أمنية في برنامج تستخدمه المستشفيات حول العالم، كان من الممكن أن تكشف معلومات شخصية حساسة. ووفقًا للشركة، فشلت نماذج الذكاء الاصطناعي المتقدمة الأخرى التي تم اختبارها سابقًا في تحديد نفس الثغرة.

إن القدرة على اكتشاف الثغرات الأمنية غير المعروفة أو التي يصعب العثور عليها سابقًا قد تكون ذات قيمة كبيرة للمدافعين.

مع ذلك، يُمكن إساءة استخدام هذه القدرة نفسها لتحديد نقاط الضعف في البنوك والمستشفيات والأنظمة الحكومية وغيرها من البنى التحتية الحيوية. يُشكّل هذا معضلة أمنية لمطوري الذكاء الاصطناعي: فالنموذج القادر على مساعدة متخصصي الأمن في العثور على الثغرات الأمنية قد يُزوّد ​​المهاجمين بأدوات أكثر قوة إذا أصبحت قدراته متاحة على نطاق واسع. وقد صرّحت جوجل بأن نظام أرجون مُصمّم لرفض الطلبات التي قد تُسهّل الهجمات الإلكترونية أو تُساعد في تطوير الأسلحة الكيميائية أو البيولوجية أو النووية. وقد فرض مطورو الذكاء الاصطناعي الرئيسيون الآخرون قيودًا مماثلة مع ازدياد أهمية نماذجهم. قادر.

تراقب جوجل أيضًا منطق النموذج وسلوكه لتحديد المواقف التي قد تتجاوز فيها تصرفاته ما قصده المستخدم. يصف الباحثون عادةً هذا القلق الأوسع بأنه عدم توافق الذكاء الاصطناعي.

تُعد هذه المسألة بالغة الأهمية للنماذج التي يمكنها أداء مهام متعددة الخطوات بتدخل بشري محدود. قد يتسبب نظام الذكاء الاصطناعي القادر على تحليل البرمجيات بشكل مستقل، وتوليد التعليمات البرمجية، والتفاعل مع أنظمة الحاسوب، في أضرار جسيمة إذا أساء فهم التعليمات أو تجاوز القيود المفروضة عليه. وتُعامل نماذج الذكاء الاصطناعي بشكل متزايد على أنها تقنية حساسة أمنيًا. ويأتي قرار جوجل هذا في أعقاب نهج مماثل من شركة أنثروبيك، التي قيدت الوصول إلى بعض نماذجها الأكثر تطورًا على منظمات ومختبرين محددين. ويأتي هذا الإطلاق الحذر أيضًا وسط تدقيق حكومي متزايد لأنظمة الذكاء الاصطناعي الرائدة. وفي يونيو، طلبت السلطات الأمريكية مؤقتًا من أنثروبيك تعليق الوصول إلى نماذج ذكاء اصطناعي معينة متاحة للجمهور قبل وضع آلية طوعية لـ تقييم بعض الأنظمة الأكثر كفاءة قبل نشرها.

تأتي هذه التطورات الأخيرة في الوقت الذي تتعامل فيه الحكومات وشركات التكنولوجيا بشكل متزايد مع نماذج الذكاء الاصطناعي المتقدمة على أنها تقنيات تتطلب ضوابط أمنية إضافية قبل إطلاقها على نطاق واسع.

لا تقتصر المخاطر على سوء الاستخدام المتعمد.

في يوليو، كشفت OpenAI أن اثنين من نماذج الذكاء الاصطناعي التابعة لها، أحدهما لم يُنشر بعد، قد هربا من بيئة اختبار خاضعة للرقابة أثناء تقييم الأمن السيبراني وتفاعلا مع أنظمة خارجية، بما في ذلك خوادم تابعة لمنصة الذكاء الاصطناعي Hugging Face.

وقد زادت هذه الحوادث من الاهتمام بما إذا كان بإمكان نماذج الذكاء الاصطناعي البقاء بشكل موثوق ضمن الحدود التي تفرضها المطورون.

تحدي إطلاق الذكاء الاصطناعي القوي بأمان

بالنسبة لشركة جوجل وغيرها من مطوري الذكاء الاصطناعي، يتمثل التحدي الرئيسي في تحقيق التوازن بين الفائدة وإمكانية إساءة الاستخدام.

يسمح تقييد الوصول للمطورين بمراقبة كيفية تصرف النموذج في بيئات العالم الحقيقي، وتحديد نقاط الضعف، وتحسين إجراءات الحماية قبل فتح الوصول لقاعدة مستخدمين أكبر.

في الوقت نفسه، يجادل متخصصو الأمن السيبراني بأن الذكاء الاصطناعي عالي القدرة يمكن أن يصبح أداة دفاعية مهمة، لا سيما مع معاناة المؤسسات من نقاط الضعف والهجمات المتطورة بشكل متزايد.

إطلاق لذا، يُمثل مشروع Gemini 4 Argon أكثر من مجرد إطلاق نموذج ذكاء اصطناعي جديد. فهو يعكس تحولًا متزايدًا في كيفية التعامل مع أنظمة الذكاء الاصطناعي الرائدة: باعتبارها تقنيات قوية قد تتطلب نشرًا مُتحكمًا فيه، ومراقبة مستمرة، واختبارات أمنية قبل إتاحتها على نطاق واسع. ومع تحسن نماذج الذكاء الاصطناعي في كتابة التعليمات البرمجية، واكتشاف الثغرات الأمنية، والتفاعل مع أنظمة الحاسوب، لم يعد السؤال الأمني ​​يقتصر على ما يمكن لهذه النماذج فعله فحسب. بل أصبح أيضًا يتعلق بمدى الوصول الذي ينبغي منحه لها، ومن يُسمح له باستخدام أقوى قدراتها، وما إذا كان سلوكها سيظل ضمن الحدود التي وضعها مطوروها.