شرکت اوپن‌ای‌آی در کمتر از ۷۲ ساعت با هوش مصنوعی کلود هک شد

سه محقق امنیتی از استارتاپ هک‌تران (Hacktron) با بهره‌گیری از هوش مصنوعی کلود (Claude) متعلق به شرکت آنتروپیک (Anthropic)، موفق شدند ظرف کمتر از ۷۲ ساعت به حساب‌های کاربری و مخزن کدهای داخلی شرکت اوپن‌ای‌آی (OpenAI) نفوذ کنند. این پژوهشگران با پیوند دادن یک آسیب‌پذیری پردازش تصویر در انجمن گفت‌وگوی اوپن‌ای‌آی با رخنه‌ای در ساختار احراز هویت، راه خود را به محیط توسعه داخلی این غول هوش مصنوعی باز کردند.

صرافی کیف پول من

معامله تتر و پکس‌گلد بدون کارمزد

ثبت‌نام کنید

محققان با استفاده از نسخه کلود اوپوس (Claude Opus) ضعف سرریز بافر را در کتابخانه تحلیل تصویر شناسایی کردند و در کمتر از چند ساعت موفق به ساخت اکسپلویت اجرایی شدند. پس از ورود به انجمن، نقص سیستم ورود یکپارچه اجازه داد پژوهشگران به حساب‌های چت‌جی‌پی‌تی و کدکس (Codex) نفوذ کرده و از طریق اتصال گیت‌هاب (GitHub) کارمند هدف، به مخازن نرم‌افزاری دست یابند. اوپن‌ای‌آی پس از دریافت گزارش، این نقص را ظرف ۱۴ ساعت رفع و پاداشی ۶,۵۰۰ دلاری پرداخت کرد.

کاهش زمان حملات سایبری با ابزارهای هوش مصنوعی

این آزمایش نشان می‌دهد ابزارهای تولید کد و هوش مصنوعی تا چه میزان چرخه توسعه ابزارهای نفوذ را فشرده کرده‌اند؛ موضوعی که زنگ خطری جدی برای متمرکز شدن فرایندهای توسعه بر روی دستیارهای هوشمند به شمار می‌رود.

موهان پدهاپاتی (Mohan Pedhapati)، هم‌بنیان‌گذار هک‌تران در حساب خود در شبکه اجتماعی ایکس نوشت:

نتیجه کلیدی ما از نفوذ به اوپن‌ای‌آی این است که هوش مصنوعی نیاز به تخصص‌های کمیاب را برای طراحی ابزارهای نفوذ کاهش می‌دهد. کارهایی که پیش‌تر ماه‌ها زمان می‌برد، اکنون ظرف چند روز انجام می‌شود و حتی پیشرفته‌ترین آزمایشگاه‌های فناوری نیز نفوذپذیر هستند.