هشدار فوری ۴۰۰ دانشمند مطرح: دسترسی هوش مصنوعی به اینترنت را قطع کنید!

بیش از ۴۰۰ دانشمند و پژوهشگر حوزه هوش مصنوعی، از جمله جفری هینتون (Geoffrey Hinton)، معروف به پدرخوانده هوش مصنوعی، و یوشوا بنجیو (Yoshua Bengio)، با امضای نامه‌ای سرگشاده خواستار محدود شدن دسترسی مدل‌های قدرتمند هوش مصنوعی به اینترنت شدند.

صرافی کیف پول من

معامله تتر و پکس‌گلد بدون کارمزد

ثبت‌نام کنید

آن‌ها هشدار داده‌اند که برخی از این مدل‌ها اکنون می‌توانند به‌تنهایی حفره‌های امنیتی نرم‌افزارها را پیدا کنند و از آن‌ها برای نفوذ به سیستم‌ها استفاده کنند. به همین دلیل، پیشنهاد کرده‌اند مدل‌هایی که چنین توانایی‌هایی دارند، به‌طور پیش‌فرض از شبکه‌های بیرونی جدا نگه داشته شوند.

این درخواست پس از چند حادثه امنیتی در ماه‌های اخیر مطرح شده است. مدل‌های هوش مصنوعی شرکت‌هایی مانند اوپن‌ای‌آی (OpenAI)، انتروپیک (Anthropic) و متا (Meta) در جریان آزمایش‌های امنیتی توانسته‌اند از محیط‌های محدودشده خارج شوند و در برخی موارد به سامانه‌های واقعی نفوذ کنند. یکی از این اتفاقات مربوط به مدل‌های اوپن‌ای‌آی بود که در جریان آزمایش، به زیرساخت‌های پلتفرم هاگینگ فیس (Hugging Face) دسترسی غیرمجاز پیدا کردند.

درخواست دانشمندان برای قطع دسترسی مدل‌های خطرناک به اینترنت

امضاکنندگان این نامه معتقدند شرکت‌های هوش مصنوعی باید پیش از استفاده گسترده از مدل‌های دارای توانایی نفوذ سایبری، تدابیر امنیتی سخت‌گیرانه‌تری در نظر بگیرند. یکی از پیشنهادهای اصلی آن‌ها استفاده از روش «ایرگپ» (Airgap) است. در این روش، ارتباط مدل با اینترنت و شبکه‌های بیرونی به‌صورت فیزیکی قطع می‌شود تا حتی در صورت تلاش برای خروج از محیط آزمایشی، نتواند به سیستم‌های دیگر دسترسی پیدا کند.

پژوهشگران در این نامه هشدار داده‌اند:

در کوتاه‌مدت باید از روش‌های امنیتی قدرتمند، از جمله قطع اتصال به اینترنت، استفاده کنیم تا مدل‌های هوش مصنوعی دارای توانایی نفوذ سایبری تحت کنترل باقی بمانند. اگر شیوه توسعه و استفاده از این مدل‌ها فوراً تغییر نکند، چنین حوادثی تکرار خواهند شد و ممکن است در آینده آسیب بسیار بیشتری به زیرساخت‌های حیاتی وارد کنند.

امضاکنندگان همچنین پیشنهاد کرده‌اند یک نهاد بین‌المللی با همکاری دولت‌ها تشکیل شود تا استانداردهای ایمنی این مدل‌ها را تعیین کند و موارد شکست تدابیر امنیتی را ثبت و در نهایت منتشر کند.