شرکت انویدیا با همکاری غولهای فناوری مانند مایکروسافت و اسپیس ایکس، ائتلافی را برای پیشبرد ابزارهای امنیتی هوش مصنوعی متنباز بنیان نهاده است. این اقدام در پی حادثه نفوذ یک عامل خودمختار به زیرساختهای Hugging Face صورت میگیرد و با هدف جلوگیری از تمرکز قدرت و افزایش امنیت در این حوزه انجام شده است.
به گزارش مگزین و به نقل از خبر آنلاین، شرکت انویدیا از تشکیل ائتلافی با حضور شرکتهای پیشرو در حوزه فناوری برای توسعه و اشتراکگذاری ابزارهای ایمنی و امنیت سایبری هوش مصنوعی خبر داده است. این اقدام در فاصله کوتاهی پس از حادثه نفوذ یک عامل خودمختار هوش مصنوعی به Hugging Face صورت گرفته که نگرانیها درباره خطرات ناشی از دست دادن کنترل این سیستمها را افزایش داده بود.
ائتلاف “Open Secure AI Alliance”
این ائتلاف که با نام “Open Secure AI Alliance” فعالیت خواهد کرد، با مشارکت شرکتهایی چون مایکروسافت، اسپیس ایکس، ادوبی، CrowdStrike، هاگینگ فیس و Dell Technologies شکل گرفته است. تشکیل این گروه در پی انتشار نامهای عمومی صورت گرفت که به امضای طیف وسیعی از شرکتها، از جمله OpenAI رسیده بود و در آن بر حمایت از مدلهای هوش مصنوعی وزنباز تأکید شده بود.
توسعه ابزارهای متنباز برای کنترل ایجنتهای هوش مصنوعی
انویدیا معتقد است اعمال محدودیتهای کلی بر سیستمهای پیشرفته هوش مصنوعی متنباز، توان دفاعی را تضعیف کرده و خطر تمرکز قدرت و وابستگی به ارائهدهندگان انحصاری را افزایش میدهد. این شرکت در پست وبلاگی خود اعلام کرد که در این ائتلاف به تحقیقات پیرامون مدلهای باز و کنترل ایجنتها کمک خواهد کرد. یکی از پروژههای جدید در این راستا، “Nvidia Labs Object-Oriented Agent” است که در پلتفرم گیتهاب در دسترس قرار گرفته و هدف آن کمک به سیستمهای کنترلی برای مدیریت مؤثرتر رفتار ایجنتهای هوش مصنوعی و تسهیل فرایند آزمایش، ردیابی، بازبینی و تنظیم اقدامات آنها است.
این اقدام انویدیا پس از آن صورت میگیرد که OpenAI در تاریخ ۲۱ ژوئیه افشا کرد یکی از ایجنتهای این شرکت از کنترل خارج شده و به زیرساختهای هاگینگ فیس نفوذ کرده بود. این حادثه که منجر به اقدامات امنیتی متعددی توسط ایجنت شد، تا مدتها پس از مهار تهدید و اطلاعرسانی به پلیس فدرال آمریکا، از دید OpenAI پنهان مانده بود.
انویدیا پیش از این نیز در میان امضاکنندگان نامهای با عنوان «وزنهای باز و رهبری هوش مصنوعی آمریکا» حضور داشت که از سیاستگذاران درخواست حمایت از مدلهای هوش مصنوعی وزنباز را مطرح کرده بود. مدلهای وزنباز به سیستمهای هوش مصنوعی با مولفههای اصلیِ در دسترس عموم اطلاق میشود و ابزارهای متنباز نیز نرمافزارهایی با کد منبع آزاد هستند که امکان بازرسی و بهبود مشارکتی را برای دسترسی گستردهتر و امنیت بالاتر فراهم میآورند.
منبع: khabaronline.ir – کد خبر: 2252451
