هک سه شرکت توسط Gemini گوگل در جریان یک آزمایش امنیت سایبری

به گزارش خبرنگار اقتصاد معاصر؛ مدل هوش مصنوعی Gemini گوگل در جریان یک آزمایش امنیت سایبری، به‌دلیل خروج از محیط آزمایشی و دسترسی ناخواسته به اینترنت، توانست به سیستم‌های رایانه‌ای سه شرکت دسترسی پیدا کند؛ رخدادی که نخستین مورد شناخته‌شده از دسترسی خودکار یکی از مدل‌های گوگل به سامانه‌های خارج از محیط آزمایش محسوب می‌شود.

گوگل اعلام کرد مدل هوش مصنوعی Gemini در جریان یک آزمایش امنیت سایبری که در ماه مه توسط شرکت ارزیابی امنیت سایبری Irregular انجام شد، به اینترنت دسترسی پیدا کرد و به سیستم‌های رایانه‌ای سه شرکت خارج از محیط آزمایش دسترسی یافت.

این آزمایش در قالب یک محیط کنترل‌شده و با هدف ارزیابی توانایی‌های امنیت سایبری مدل‌های هوش مصنوعی انجام می‌شد؛ اما وجود یک نقص در محیط آزمایش باعث شد Gemini به اینترنت گسترده‌تر دسترسی پیدا کند.

بر اساس توضیحات گوگل، Gemini در یکی از موارد با حدس زدن رمز عبور توانست به یک سیستم محافظت‌شده دسترسی پیدا کند. در دو مورد دیگر نیز مدل با جست‌وجوی اطلاعات عمومی، به اطلاعات احراز هویت موجود در یک مخزن عمومی دست یافت و از آن برای ورود به سیستم‌های موردنظر استفاده کرد.

هدر ادکینز، معاون مهندسی امنیت گوگل، اعلام کرد Gemini در جریان این ارزیابی، اطلاعات عمومی موجود در اینترنت را پیدا کرده و اطلاعات ورود به سه وب‌سایت را که تصور می‌کرد در محدوده آزمایش قرار دارند، حدس زده است.

با این حال، گوگل اعلام کرد Gemini در هر سه مورد پس از تشخیص اینکه به سیستم‌های واقعی شرکت‌ها دسترسی پیدا کرده است، فعالیت خود را متوقف کرد. این شرکت همچنین اعلام کرد با Irregular برای اصلاح و تغییر روند آزمایش‌های امنیت سایبری همکاری کرده است.

سخنگوی Irregular نیز اعلام کرد حادثه مربوط به Gemini ناشی از همان مشکلی بوده که پیش‌تر در آزمایش‌های سایر شرکت‌های هوش مصنوعی مشاهده شده بود. به گفته این شرکت، تمام آزمایشگاه‌های مرتبط در اواخر ژوئیه از این مشکل مطلع شدند و ایرادهای شناخته‌شده نیز برطرف شده است.

این حادثه در شرایطی رخ داده که موارد مشابهی درباره مدل‌های هوش مصنوعی شرکت‌های OpenAI، Anthropic و Meta نیز در جریان آزمایش‌های امنیت سایبری گزارش شده است. در این موارد نیز مدل‌ها به‌دلیل نقص در محیط‌های آزمایشی توانسته بودند از محدوده تعیین‌شده خارج شوند و به سیستم‌های خارجی دسترسی پیدا کنند.

گزارش این حوادث، هم‌زمان با افزایش استفاده از عوامل هوش مصنوعی با قابلیت انجام مستقل وظایف، پرسش‌هایی درباره نحوه کنترل دسترسی این مدل‌ها به اینترنت و سامانه‌های رایانه‌ای مطرح کرده است. گوگل اعلام کرده است که این رویداد اهمیت آموزش مدل‌های قدرتمند هوش مصنوعی برای عملکرد مسوولانه و همچنین ضرورت تقویت سازوکارهای ایمنی در آزمایش‌های امنیت سایبری را نشان می‌دهد.