کمپانی سازنده سرویس ChatGPT، از ابزاری برای شناسایی متون نوشته شده توسط هوش مصنوعی رونمایی کرد.
OpenAI امروز از ابزاری رونمایی کرد که کاربران با استفاده از آن می‌توانند متوجه شوند که یک متن خاص توسط هوش مصنوعی نوشته شده است یا خیر. البته این ابزار دقت بالایی ندارد و موفق شده است تا فقط در 26 درصد موارد تشخیص درستی داشته باشد؛ اما OpenAI اعلام کرده است که این ابزار باید در کنار سایر روش‌ها به کار برود تا بیشترین کارایی را برای شناخت متون تهیه شده توسط هوش مصنوعی داشته باشد.
یکی از سخنگویان کمپانی OpenAI در این مورد گفته است: “این ابزار به کاهش ادعاهای دروغین در حوزه‌ی نوشتن و تهیه‌ی متن‌هایی که توسط هوش مصنوعی تولید شده‌اند کمک بسیاری می‌کند. با این وجود، محدودیت‌هایی نیز با خود به همراه دارد. بنابراین باید از آن در کنار سایر ابزاری که در این حوزه برای شناسایی اصالت متون وجود دارند مورد استفاده قرار بگیرد.” وی افزود: “ما این شاخص را در دسترس عموم قرار می‌دهیم و منتظر بازخورد افراد خواهیم ماند، در آینده احتمالا روش‌های کارآمدتری نیز برای تشخیص متون تهیه شده توسط هوش مصنوعی از متون نوشته شده توسط انسان وجود خواهند داشت.”
با رشد حواشی مربوط به هوش مصنوعی خلاق (علی الخصوص هوش مصنوعی تولید کننده متن)، منتقدین از سازندگان این سرویس‌ها درخواست کرده‌اند که پیش از معرفی آنها، قدم‌هایی برای محدود کردن و به حداقل رساندن اثرات منفی و زیان‌بار آنها بردارند. برخی از بزرگترین مدارس و دانشگاه‌ها در ایالات متحده نصب و استفاده از ChatGPT را به دلیل تاثیر سوء بر فرآیند یادگیری، برای دانش‌آموزان و دانشجویان خود ممنوع کرده‌اند. حتی وبسایت‌هایی مانند Stack Overflow نیز اعلام کرده‌اند که کاربرانی که از ChatGPT برای تولید و نشر متن استفاده کنند را اخراج خواهند کرد و دلیل این تصمیم را نیز “سوءاستفاده برخی از کاربران از این سرویس برای ساخت پاسخ‌های مبهم و غیرمفید و در نتیجه دور شدن وبسایت از فضای پرسش و پاسخ خود” بیان نموده‌اند.
ابزار OpenAI برای تشخیص متن‌های نوشته شده توسط هوش مصنوعی، OpenAI AI Text Classifier نام دارد. این ابزار دقیقا مانند ChatGPT نوعی مدل زبانی هوش مصنوعی است که برای آموزش آن از متون بسیار زیادی که در اینترنت وجود دارند استفاده شده است. تفاوت آن با ChatGPT در این است که این هوش مصنوعی از این آموزش برای پیش‌بینی اینکه یک متن چقدر ممکن است توسط هوش مصنوعی نوشته شده باشد استفاده می‌کند.
یکی از محدودیت‌های این ابزار جدید، آن است که متنی که مورد بررسی قرار می‌دهد باید حداقل 150 تا 250 کلمه طول داشته باشد. توانایی کمتر در ارزیابی متون غیرانگلیسی و متونی که توسط کودکان نوشته شده‌اند نیز از سایر محدودیت‌های این ابزار است.
به نظر شما آیا این ابزار می‌تواند از سوءاستفاده از سرویس ChatGPT و سرویس‌های مشابه جلوگیری کند؟ نظرات خود را با ما در میان بگذارید.
برای نوشتن دیدگاه باید وارد بشوید.