ابزار جدید متن آکادمیک تولید شده توسط ChatGPT را با دقت 99 درصد تشخیص می دهد
دانشمندان یک ابزار تشخیص هوش مصنوعی با دقت 99 درصد توسعه داده‌اند که متن علمی تولید شده توسط هوش مصنوعی را شناسایی می‌کند و به طور خاص افرادی مانند ChatGPT را هدف قرار می‌دهد. ابزار تشخیص که به طور منحصربه‌فردی با استفاده از مجموعه داده‌های کوچک‌تر و بینش انسانی برای تشخیص هوش مصنوعی از نوشته‌های انسانی طراحی شده است، تمرکز خود را به نوشته‌های علمی خاص موجود در مجلات معتبر محدود می‌کند و دقت بیشتری نسبت به آشکارسازهای همه منظوره ارائه می‌دهد.
Heather Desaire، شیمیدان دانشگاه کانزاس که از یادگیری ماشینی در مطالعات زیست پزشکی استفاده می کند، ابزار جدیدی ایجاد کرده است که می تواند متن علمی تولید شده توسط ChatGPT، یک تولید کننده متن هوش مصنوعی، را با دقت 99 درصد شناسایی کند.
مطالعه اخیر که در مجله معتبر Cell Reports Physical Science منتشر شده است، اثربخشی روش تشخیص هوش مصنوعی او را به همراه کد منبع کافی برای تکرار ابزار توسط دیگران نشان می دهد.
Desaire، کرسی شیمی Keith D. Wilner در KU، گفت که ابزارهای دقیق تشخیص هوش مصنوعی برای دفاع از یکپارچگی علمی ضروری هستند.
او گفت: «ChatGPT و سایر تولیدکنندگان متن هوش مصنوعی مانند آن، حقایق را تشکیل می‌دهند. “در انتشارات علمی دانشگاهی – نوشته‌هایی درباره اکتشافات جدید و لبه دانش بشری – ما واقعاً نمی‌توانیم ادبیات را با دروغ‌های باورپذیر آلوده کنیم. اگر معمولاً از تولیدکننده‌های متن هوش مصنوعی استفاده شود، آنها به طور اجتناب‌ناپذیری به انتشارات راه پیدا می‌کنند. تا آنجا که من می‌دانم، هیچ راه بی‌خطری برای یافتن آن «توهمات» به شکل خودکار وجود ندارد. وقتی شروع به پر کردن حقایق علمی واقعی با مزخرفات ساختگی هوش مصنوعی کردید که کاملاً باورپذیر به نظر می‌رسند، آن انتشارات کمتر قابل اعتماد، کم ارزش تر می شوند.»
او گفت که موفقیت روش تشخیص او بستگی به محدود کردن دامنه نوشتار تحت بررسی به نوشته‌های علمی از نوع معمول در مجلات معتبر دارد. این امر دقت را نسبت به ابزارهای تشخیص هوش مصنوعی موجود، مانند آشکارساز RoBERTa، که هدف آن تشخیص هوش مصنوعی در نوشتار عمومی تر است، بهبود می بخشد.
Desaire گفت: “شما به راحتی می توانید روشی برای تشخیص انسان از نوشتن ChatGPT ایجاد کنید که بسیار دقیق است، با توجه به این مبادله که شما خود را محدود به در نظر گرفتن گروه خاصی از انسان ها می کنید که به روشی خاص می نویسند.” آشکارسازهای هوش مصنوعی موجود معمولاً به عنوان ابزارهای عمومی برای استفاده در هر نوع نوشتاری طراحی می شوند. هدف مشخص و محدود».
دزایر گفت که مدرسان دانشگاه، نهادهای اعطاکننده کمک هزینه و ناشران همگی به روشی دقیق برای تشخیص خروجی هوش مصنوعی که به عنوان کاری از ذهن انسان ارائه می‌شود، نیاز دارند.
منبع :
دیدگاهتان را بنویسید