شرکت آنتروپیک میخواهد متنهای تولیدشده با هوش مصنوعی کلود، یک «امضای نامرئی» همراه خود داشته باشند؛ نشانهای که چشم انسان آن را نمیبیند، اما نرمافزارها میتوانند شناساییاش کنند. این ردپا حتی پس از کپی و پیستشدن متن یا بعضی ویرایشها نیز ممکن است باقی بماند.
به گفته آنتروپیک، مدلهای کلود که از مرداد ۱۴۰۵ به بعد عرضه میشوند، از این قابلیت پشتیبانی میکنند. واترمارک مستقیماً داخل متن قرار میگیرد و قرار نیست معنا، کیفیت یا خوانایی پاسخهای کلود را تغییر دهد.
این امضای نامرئی چگونه کار میکند؟
واترمارک در سطح «خود مدل» ایجاد میشود، بنابراین به نسخه خاصی از اپلیکیشن یا سایت کلود وابسته نیست. این نشانه میتواند در متنهای تولیدشده از طریق اپلیکیشن کلود، رابط برنامهنویسی یا API، کلود کد و حتی سرویسهای ابری آمازون، گوگل و مایکروسافت وجود داشته باشد.
آنتروپیک برای فایلهای تصویری مانند PNG، JPG و SVG نیز روش جداگانهای در نظر گرفته است. این فایلها میتوانند اطلاعات دیجیتالی امضاشدهای بر پایه استاندارد C2PA داشته باشند؛ چیزی شبیه شناسنامهای که نشان میدهد فایل با کلود پردازش شده و آیا اطلاعات آن دستکاری شده است یا نه.
این اقدام بخشی از تعهد آنتروپیک برای رعایت مقررات شفافیت در قانون هوش مصنوعی اتحادیه اروپاست؛ مقرراتی که شرکتهای هوش مصنوعی را به مشخصکردن محتوای ساختهشده یا پردازششده با هوش مصنوعی تشویق میکند.
کلاف سردرگم: پیدا شدن واترمارک چه چیزی را ثابت میکند؟
نکته مهم این است که امضای کلود، مدرک قطعی برای «نوشتهشدن متن توسط هوش مصنوعی» نیست. ممکن است فردی نوشته خودش را فقط برای ویرایش، ترجمه یا خلاصهسازی به کلود داده باشد و نسخه نهایی همچنان واترمارک دریافت کند؛ در چنین حالتی، ایده و متن اصلی متعلق به انسان بوده است.
از طرف دیگر، پیدا نشدن واترمارک نیز لزوماً ثابت نمیکند که متن حتماً انسانی است. نوشتههای تولیدشده با مدلهای قدیمیتر، متنهای بسیار کوتاه یا مطالبی که بهشدت ویرایش، بازنویسی، ترجمه یا با نوشتههای دیگر ترکیب شدهاند، ممکن است دیگر نشانه قابلتشخیصی نداشته باشند.
بنابراین این فناوری بیشتر یک جور «سرنخ درباره سابقه متن» است، نه یک دستگاه دروغسنج برای تشخیص هوش مصنوعی.
آنتروپیک میگوید در حال ساخت ابزارهایی است که کاربران و شرکتهای دیگر بتوانند با کمک آنها این واترمارکها را پیدا کنند. پشتیبانی از مدلهای قدیمیتر کلود نیز قرار است بهتدریج اضافه شود.
