زنگ خطر دوباره در اوپن ای‌آی؛ استعفای مدیر ایمنی در اعتراض به خطرات هوش مصنوعی

دیوید رابینسون (David Robinson)، مدیر ارشد بخش ایمنی در اوپن ای‌آی (OpenAI) که بر گزارش‌های ایمنی ۱۲ مدل پیشرفته این شرکت نظارت داشت، از سمت خود استعفا داد. او فرهنگ «آزمون و خطا» در این آزمایشگاه هوش مصنوعی را زمینه‌ساز فجایع بزرگ‌تر با افزایش توانمندی سیستم‌ها دانست و خواستار اتخاذ پروتکل‌های ایمنی مشابه نیروگاه‌های هسته‌ای شد.

صرافی کیف پول من

معامله تتر و پکس‌گلد بدون کارمزد

ثبت‌نام کنید

رابینسون با سابقه ۳.۵ سال فعالیت و تدوین چارچوب آمادگی کنونی اوپن ای‌آی، به حوادث امنیتی متعددی اشاره کرد؛ از جمله نفوذ عامل‌های هوش مصنوعی به سیستم‌های هاگینگ فیس (Hugging Face) و دور زدن محدودیت‌های اینترنت توسط یک مدل در حال آموزش بدون خاموشی خودکار. با وجود دفاع اوپن ای‌آی از رویکردهای ایمنی خود، رابینسون سرعت سرسام‌آور عرضه محصولات را مانع دستیابی به استانداردهای لازم می‌داند.

دیوید رابینسون در یادداشتی در نشریه آتلانتیک نوشت:

با توجه به خطرات کنونی، آزمایشگاه‌های پیشرو باید مانند نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ اداره شوند؛ همراه با لایه‌های متعدد افزونگی و برنامه‌ریزی دقیق و زمان‌بر تا خطای اجتناب‌ناپذیر انسانی دریچه‌ای به‌سوی فاجعه باز نکند. اکنون شرکت‌های هوش مصنوعی روش آن را نمی‌دانند، اما دیگران بلدند. همکاران سابق من باهوش و پرتلاش هستند، اما شتاب شرکت از عرضه‌ای به عرضه دیگر، مانع از سطح دقتی می‌شود که ضروری می‌دانم.

موج استعفای متخصصان و واکنش کاخ سفید

خروج رابینسون ادامه زنجیره‌ای از استعفای پژوهشگران برجسته در آنتروپیک (Anthropic)، گوگل دیپ‌مایند (Google DeepMind) و اوپن ای‌آی است که نسبت به قمار بر سر بقای بشر هشدار داده‌اند. در پاسخ به این نگرانی‌ها، واشنگتن کارگروه ویژه‌ای تشکیل داده است تا طی ۱۲۰ روز خطرات هوش مصنوعی را ارزیابی کند؛ هرچند دولت تمرکز اصلی خود را بر حفظ برتری در حوزه هوش مصنوعی و رقابت با چین قرار داده است.