گوگل قابلیت جدیدی را در Google Earth معرفی کرد که به کاربران اجازه میداد تصاویر ماهوارهای را با استفاده از هوش مصنوعی و دستورات متنی ویرایش کنند. این قابلیت که امکان ساخت دیپفیکهای واقعی را فراهم میکرد، تنها یک روز پس از عرضه به دلیل سوءاستفاده و نگرانی از انتشار اطلاعات نادرست، غیرفعال شد.
به گزارش مگزین و به نقل از خبر آنلاین، گوگل تأیید کرده است که قابلیت نوآورانه Google Earth که روز پنجشنبه هفته گذشته معرفی شد و به کاربران امکان ویرایش تصاویر ماهوارهای از طریق دستورات متنی با بهرهگیری از هوش مصنوعی را میداد، اکنون غیرفعال شده است.
این ابزار که با نام Nano Banana شناخته میشد، قابلیت ساخت دیپفیکهایی از دنیای واقعی را با استفاده از متن فراهم میکرد. گوگل پیشتر اعلام کرده بود که تصاویر تولید شده توسط این ابزار دارای واترمارک دیجیتال خواهند بود و این شرکت از تولید محتوای مرتبط با موضوعات آسیبزا جلوگیری خواهد کرد. با این حال، به نظر میرسد سوءاستفاده کاربران از این قابلیت و تولید دیپفیکهای مغایر با قوانین، گوگل را به سمت غیرفعالسازی آن سوق داده است.
این تصمیم پس از آن اتخاذ شد که وبسایت 404 Media گزارش داد این قابلیت به سادگی میتواند برای ایجاد تصاویر ماهوارهای گمراهکننده به کار گرفته شود. جوزف کاکس، نویسنده این وبسایت، با استفاده از این ابزار تصویری از یک گودال ناشی از انفجار در لسآنجلس و همچنین گروهی از معترضان در مقابل مقر گوگل در مانتین ویو، کالیفرنیا، را شبیهسازی کرد.
در ابتدا، گوگل نگرانیها در مورد انتشار اطلاعات نادرست را کماهمیت جلوه داد و مدعی شد که کاربران میتوانند با ابزارهایی مانند Gemini، اصالت تصاویر تولید شده توسط Nano Banana را بررسی کنند. اما کاکس این ادعا را زیر سؤال برد و گفت: «ادعای گوگل مبنیبر اینکه تصاویر Nano Banana دارای واترمارکی هستند که آنها را بهعنوان محتوای تولید شده توسط هوش مصنوعی شناسایی میکند، کاملاً نشان میدهد این شرکت درک درستی از نحوه انتشار اطلاعات نادرست ندارد.»
گوگل روز جمعه مجدداً از تصمیم خود دفاع کرد و بر وجود واترمارک بر روی تمامی تصاویر تولید شده در Google Earth تأکید نمود. با این حال، این شرکت اعلام کرد که پیش از فعالسازی مجدد قابلیت تولید تصویر در Google Earth، محدودیتها و سازوکارهای حفاظتی قویتری را برای جلوگیری از سوءاستفاده پیادهسازی خواهد کرد.
منبع: khabaronline.ir – کد خبر: 2254442
