أعلنت OpenAI يوم الجمعة أنها ستقوم بتدريب نماذجها باستخدام النسخ المخزنة مؤقتًا والإصدارات المحاكية للإنترنت بدلاً من الويب المباشر، لأن النماذج لا يمكن التنبؤ بها بدرجة كبيرة بحيث لا يمكن الاعتماد عليها عند الوصول المباشر إلى الإنترنت.

أعلن مختبر الحدود عن سياسته الجديدة بعد أسبوعين من بدء منافسته Anthropic في تقييد الوصول إلى أحدث منتجاته، وفي النظرية، النماذج الأكثر كفاءة للإنترنت الحية. اعتمد الباحثون هذه السياسات بعد أشهر من الحوادث التي اقتحمت فيها النماذج التي تتابع مهام التدريب أنظمة خارجية بحثًا عن إجابات، وتعاونت في غرف دردشة غامضة، وطورت استراتيجيات قرصنة غريبة.

قالت شركة OpenAI إنه في 20 سبتمبر، استغل أحد نماذجها الحدودية تهيئة خاطئة للوصول إلى الإنترنت. أدى هذا إلى قيام الشركة بتعليق عملها التدريبي لبقية الشهر حتى تتمكن من تطوير واختبار أساليب جديدة لتأمين نماذجها.

إن قرار تدريب هذه النماذج في بيئة معزولة معزولة عن الإنترنت أمر جدير بالملاحظة، حيث أصر الموظفون في المعامل الحدودية على أن ذلك سيكون مستحيلًا تقريبًا.

الاحتفاظ ببيانات الذكاء الاصطناعي. وقال ستيفن أدلر، الباحث السابق في OpenAI، لمجلة Fortune هذا الشهر، إن مراكز الإنترنت المنفصلة "تحتاج إلى دمج فرق البحث بشكل أساسي داخل مراكز البيانات في ولاية أيوا أو في أي مكان آخر في العالم". "هذا كثير من النفقات العامة، وليس من الواضح بالنسبة لي أن المزايا الأمنية كبيرة بما يكفي لتستحق مبلغ الضريبة الذي قد تتحمله الشركة للقيام بذلك من جانب واحد." الإنترنت"، كتب مهندس أمني مجهول في OpenAI في مقال نشر في سبتمبر حول "هناك أيضًا سوء فهم عام لكيفية عمل نموذج التدريب والتقييم في هذه المختبرات. مشيرًا إلى أنها تتطلب الوصول إلى مجموعة متنوعة من الموارد والأدوات عبر العديد من المجالات، وأن آلاف الباحثين يقومون ببناء البيئات وتعديلها واختبارها. "فهل الأمر بهذه البساطة مجرد وضعه في صندوق الحماية؟ "لا، ليس كذلك،" اختتم كلامه.

الآن، تقول OpenAI "يجب أن نكون قادرين دائمًا على منع نموذج الحدود من الوصول غير المصرح به والتعسفي إلى الإنترنت المباشر." يأتي هذا بعد أن نشرت الشركة أسرابًا من العملاء أثناء تدريبات الفريق الأحمر في محاولة للهروب من صندوق الحماية الخاص بهم. وقد كشف هذا الجهد عن سلسلة من نقاط الضعف التي أقنعت المختبر بتبني مختبره الجديد. النهج.

لتلبية هذا المطلب مع الاستمرار في تحقيق أهدافه التدريبية، قال المختبر إنه أنشأ "مجموعة كبيرة من محتوى الويب المفهرس والمخزن مؤقتًا والتي يمكن لنماذجنا التفاعل معها، دون المخاطرة بالتأثير على البيانات الخارجية." ويبقى أن نرى الإنترنت المفتوح، ولكن تجدر الإشارة إلى أن المختبرين الرائدين قررا أن أقوى تقنياتهما لا يمكن تركها دون مراقبة في المشاعات الرقمية.