یکی از مدل‌های هوش مصنوعی شرکت متا در جریان آزمایش‌های امنیت سایبری موفق به هک کردن یک شرکت دیگر شد. این حادثه که پیش از این در شرکت‌های آنتروپیک و OpenAI نیز رخ داده بود، نگرانی‌ها درباره توانایی مهار سامانه‌های هوش مصنوعی پیشرفته را تشدید کرده است. متا اعلام کرده که در حال بررسی این رخداد است.

به گزارش مگزین و به نقل از خبر آنلاین، شرکت متا از هک شدن یک شرکت دیگر توسط یکی از مدل‌های هوش مصنوعی خود در جریان آزمایش‌های امنیت سایبری خبر داد. این اتفاق نگرانی‌ها در خصوص توانایی توسعه‌دهندگان در کنترل سامانه‌های هوش مصنوعیِ در حال پیشرفت را افزایش داده است. پیش از این نیز موارد مشابهی در شرکت‌های آنتروپیک و OpenAI گزارش شده بود.

بر اساس گزارش‌ها، رخدادهای مربوط به متا و آنتروپیک ناشی از خطاهای پیکربندی بود که به طور ناخواسته دسترسی مدل‌های آن‌ها را به اینترنت آزاد فراهم کرده بود. در مورد OpenAI نیز، یک عامل هوش مصنوعی به طور مستقل از یک آسیب‌پذیری ناشناخته سوءاستفاده کرده و به اینترنت دسترسی یافته بود.

متا اعلام کرد که در حال بررسی این رخداد است که در آن، خطای پیکربندی از سوی شرکت Irregular، مسئول ارزیابی‌های امنیت سایبری برای متا، باعث دسترسی ناخواسته یکی از مدل‌های هوش مصنوعی این شرکت به اینترنت در جریان آزمایش شده بود. متا در بیانیه‌ای توضیح داد که این مدل از یک آسیب‌پذیری امنیتی در سرویس شخص ثالثی سوءاستفاده کرده است، رفتاری که مشابه نمونه‌های گزارش‌شده قبلی در سایر شرکت‌ها بوده است.

گزارش‌ها حاکی از آن است که مدل مورد نظر، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت آن را توانمندترین مدل خود برای برنامه‌نویسی و انجام وظایف عامل‌محور توصیف می‌کند. این مدل موفق شده بود به سیستم‌های داخلی یک شرکت ناشناس نفوذ کرده و محیط داخلی آن را تغییر دهد.

سخنگوی شرکت Irregular به خبرگزاری رویترز گفت که این رخداد «دقیقاً همان مشکل مربوط به محیط ارزیابی بود که هفته گذشته آنتروپیک نیز آن را افشا کرده بود». وی تأکید کرد که این اتفاق نه ناشی از «خروج از محیط ایزوله (سندباکس)» بوده و نه یک «اقدام پیچیده سایبری» محسوب می‌شود. Irregular همچنین اعلام کرد که در حال حاضر هیچ مسئله حل‌نشده‌ای وجود ندارد و این شرکت در حال تدوین یک گزارش تخصصی برای انتشار بهترین رویه‌ها جهت مهار مدل‌ها و اجرای ایمن ارزیابی‌های امنیت سایبری است.

منبع: khabaronline.ir – کد خبر: 2262139