شرکت Anthropic اعلام کرده متن تولیدشده توسط مدلهای کلود که از ۲ اوت به بعد عرضه میشوند، واترمارک نامرئی برای تشخیص هوش مصنوعی خواهند داشت. این حرکت در پاسخ به الزامات قانون هوش مصنوعی اتحادیه اروپاست.
چرا واترمارک؟
طبق قانون AI اتحادیه اروپا، ارائهدهندگان مدلهای مرزی باید خروجیهای تولیدشده توسط هوش مصنوعی را قابلتشخیص کنند؛ در غیر این صورت جریمههای سنگینی در انتظارشان است.
واترمارک متنی و امضای متادیتای تصویر قرار است کمک کند ویراستاران و برگزارکنندگان کنفرانسها سیاست «بدون هوش مصنوعی» را بهتر اجرا کنند.
چرا پژوهشگران شکاکاند؟
واترمارک را میتوان با بازنویسی توسط مدل دیگر بهراحتی حذف کرد. بنابراین افراد مصمم همچنان میتوانند مقالههای بیکیفیت یا جعلی («AI slop») تولید کنند.
با این حال تجربه ICML ۲۰۲۶ نشان داد بسیاری از موارد نقض سیاست، کپی–چسب ساده خروجی مدل بوده و واترمارک توانسته صدها مورد را شناسایی کند.
این گزارش ترجمهای آزاد و خلاصهشده برای مخاطبان فارسیزبان کلینیک علوم ایران است. منبع اصلی: «Can Anthropic’s invisible watermarks curb ‘AI slop’?» — Nature (لینک منبع).
