راهکار گوگل برای شناسایی عکس هایی که هوش مصنوعی ساخته است

در ماه‌های اخیر، تصاویر تولید شده با هوش مصنوعی رشد فزاینده‌‌ای در نتایج جستجوی گوگل داشته که باعث شده است کاربران نتایج مورد نظر خود را سخت‌تر پیدا کنند. در واکنش به این مسئله، گوگل اعلام کرده است که در ماه‌های آینده تصاویر تولید شده یا ویرایش شده توسط مدل‌های هوش مصنوعی مولد را در نتایج جستجوی خود برچسب‌گذاری خواهد کرد.

به گزارش Digital Trends، گوگل روز گذشته با انتشار یک پست وبلاگی اعلام کرد که قصد دارد این برچسب‌گذاری را از طریق پنجره «درباره این تصویر» یا «About this image» انجام دهد. این تغییر در بخش جستجو، Google Lens و قابلیت Circle to Search اندروید به کار خواهد رفت. گوگل همچنین در حال بررسی اضافه کردن این فناوری به خدمات تبلیغاتی و ویدئوهای یوتیوب است.

گوگل برای شناسایی تصاویر تولید شده توسط هوش مصنوعی به متادیتا‌های «اتحاد برای منشأ و اصالت محتوا» یا C2PA تکیه می‌کند. C2PA یک گروه از شرکت‌های صنعت فناوری است که گوگل اوایل سال جاری میلادی به عنوان یکی از اعضای کمیته راهبری به آن پیوست. این متادیتا‌ها برای پیگیری منشأ تصویر و اطلاعات مربوط به زمان، مکان و دستگاه مورد استفاده برای ایجاد آن استفاده می‌شود.

تاکنون شرکت‌های نرم‌افزاری بزرگی مانند آمازون، مایکروسافت، OpenAI و ادوبی به C2PA پیوسته‌اند. اما این استاندارد هنوز آنگونه که باید توجه تولیدکنندگان سخت‌افزار را جلب نکرده و تنها توسط چند مدل دوربین سونی و لایکا پشتیبانی می‌شود. همچنین برخی از توسعه‌دهندگان ابزارهای تولید محتوا با هوش مصنوعی مانند Black Forrest Labs که توسعه مدل Flux مورد استفاده در هوش مصنوعی Grok را در کارنامه دارد، این استاندارد را نپذیرفته‌اند.

کلاه‌برداری با Deep Fake، خطری که هشدار آن از قبل داده شده بود

در دو سال گذشته، تعداد کلاهبرداری‌های آنلاین که از تصاویر تولید شده توسط هوش مصنوعی و دیپ‌فیک‌ها استفاده می‌کنند، به شدت افزایش یافته است. به عنوان مثال، در بهمن‌ ماه سال گذشته، یک سرمایه‌دار هنگ‌کنگی قربانی کلاه‌بردای با استفاده از هوش مصنوعی شد و ۲۵ میلیون دلار به کلاهبرداران انتقال داد.

در همین رابطه بخوانید:

– حکمرانی فضای مجازی به سبک چین: تمام محتوای تولید شده با هوش مصنوعی باید علامت‌گذاری شوند

– با این روش «مشق»های نوشته شده با ChatGPT قابل تشخیص‌اند؛ اما OpenAI علاقه‌ای به انتشار آن ندارد

– حفاظت از مالکیت فکری در دنیای هوش مصنوعی: استارتاپ جدید منشا داده‌های AI را آشکار می‌کند

تحقیقات اخیر نشان می‌دهد که در یک سال گذشته استفاده از دیپ‌فیک‌ها در کلاهبرداری‌ها به طور ۲۴۵٪ افزایش یافته است.