از زمان عرضه ChatGPT، اساتید و معلمان نگرانی خود را پیرامون این موضوع ابراز کرده‌اند که امکان استفاده از آن برای تقلب در تکالیف و امتحان‌ها وجود دارد. به همین دلیل، ابزارهای زیادی مثل GPTZero برای تشخیص متن‌های نوشته شده با مدل‌های زبانی توسعه داده شده اما تا کنون هیچ‌کدام دقت لازم را نداشته است. به نظر می‌رسد OpenAI راه حل این مشکل را در اختیار دارد اما تصمیم‌گیری برای انتشار آن به این سادگی‌ها نیست.
بر اساس گزارشی که در Wall Street Journal منتشر شده، OpenAI ابزاری برای تشخیص متن‌های نوشته شده با ChatGPT توسعه داده است. این روش که به ادعای OpenAI دقت 99.9 درصدی دارد، با قرار دادن الگوهای خاص یا «اثر انگشت» در متن تولید شده توسط ChatGPT، تشخیص آن را برای هوش مصنوعی ممکن می‌کند. جالب آنکه گفته می‌شود این اثر انگشت توسط انسان‌ها قابل تشخیص نیست اما ابزار OpenAI به راحتی آن را پیدا می‌کند.
بر اساس گزارش WSJ، این فناوری از یک سال پیش آماده انتشار بوده اما به دلیل مخالفت‌های داخلی، OpenAI هنوز اقدام به انتشار آن نکرده است. از یک سو این ابزار می‌تواند بخشی از کاربران ChatGPT را فراری دهد، اما از سوی دیگر انتشار آن به معنای پایبندی OpenAI به اصل شفاف‌سازی در فناوری هوش مصنوعی است.
بنابر گفته سخنگوی OpenAI، این شرکت نگران این موضوع است که ابزار مورد اشاره علیه گروه‌های آسیب‌پذیر، مثل کسانی که زبان مادریشان انگلیسی نیست، که به استفاده از ChatGPT نیاز دارند، استفاده شود:
ما باور داریم ابزار نهان‌نگاری (Watermarking) که توسعه داده‌ایم، امیدوار کننده است اما خطرهایی نیز دارد که در حال بررسی آنها هستیم. به اعتقاد ما، رویکرد محتاطانه‌ای که در پیش گرفته‌ایم، با توجه با پیچیدگی موضوع و اثراتی که این ابزار می‌تواند ورای اکوسیستم OpenAI داشته باشد، ضروری است.
با این وجود، افراد زیادی در OpenAI معتقدند که وجود این ابزار فواید بسیار بیشتری دارد و انتشار آن نباید بیش از این به تأخیر انداخته شود.
مدل‌های هوش مصنوعی مولد مثل Gemini و ChatGPT می‌توانند تنها با گرفتن چند جمله یا کلمه از کاربر، پاسخ‌های جامعی به سوالات دهند یا حتی یک مقاله تحقیقاتی کامل بنویسند. به همین دلیل نگرانی‌‌های اساتید و معلم‌ها در این باره قابل درک است.
در همین رابطه بخوانید:
– هشدار محققان مایکروسافت: تشخیص هوش مصنوعی ChatGPT از انسان غیر ممکن شده است
– خلق یک بدافزار پیچیده با تهدید در سطح امنیت ملی توسط یک برنامه نویس تازه‌کار به کمک ChatGPT
اکنون تنها زمان مشخص می‌کند که آیا در نهایت OpenAI با انتشار این ابزار، شیوه استفاده از ChatGPT را تغییر خواهد داد یا خیر.
نظر شما درباره تشخیص مطالب نوشته شده با ChatGPT چیست؟ آیا انتشار آن را مفید می‌دانید یا فکر می‌کنید ضررهای چنین ابزاری بیشتر از فایده‌های آن است؟
source