آنتروپیک اعلام کرده است دفاع‌های تازه‌اش در برابر حمله‌های تقطیر مدل، مقدار دادهٔ استدلال استخراج‌شده از Claude را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند. این نتیجه برآورد داخلی شرکت است و هنوز نباید آن را تأیید مستقل و نهایی تلقی کرد.
تقطیر مدل هوش مصنوعی چیست؟
تقطیر یا Distillation روشی برای آموزش یک مدل با استفاده از خروجی‌های مدل دیگر است. این روش می‌تواند برای فشرده‌سازی و ساخت مدل‌های کوچک‌تر و کم‌هزینه‌تر کاربرد قانونی داشته باشد؛ اما استخراج پنهانی و گستردهٔ قابلیت‌های یک مدل از طریق حساب‌های جعلی یا بدون مجوز، مسئله‌ای متفاوت است که آنتروپیک آن را حملهٔ تقطیر می‌نامد.
در توضیح آنتروپیک، رونوشت‌های استدلالی می‌توانند برای آموزش مدل تقلیدکننده مفیدتر از پاسخ نهایی تنها باشند؛ بنابراین بخشی از دفاع‌ها بر محدودکردن دسترسی به چنین داده‌هایی متمرکز شده است.
آنتروپیک چه تغییراتی اعمال کرده است؟
طبق گزارش رسمی ۱۲ اکتبر، این شرکت چند لایهٔ دفاعی را گسترش داده است: کنترل انتقال زمینه و رونوشت استدلال میان گفتگوها، مدل‌ها و حساب‌ها؛ طبقه‌بندهای دو مرحله‌ای برای شناسایی الگوهای استخراج؛ و محدودکردن نرخ استفاده یا مسدودکردن حساب‌هایی که به‌طور مداوم در استخراج غیرمجاز مشارکت دارند.
آنتروپیک همچنین به ویژگی «preserved thinking» در مدل‌های مشخص Claude و محدودشدن مشاهدهٔ رونوشت‌ها اشاره می‌کند. این کنترل‌ها برای دشوارترکردن استخراج طراحی شده‌اند، اما همهٔ دسترسی‌های قانونی کاربران را یکسان نمی‌کنند و تغییر در یکپارچه‌سازی‌های مبتنی بر API ممکن است لازم شود.
اعداد ۹۰ تا ۹۹ درصد و SWE-bench چه می‌گویند؟
آنتروپیک می‌گوید پس از اجرای طبقه‌بند جدید، تعداد توکن‌های استدلالی که سامانه‌های تقطیر از پلتفرم این شرکت استخراج کردند، به‌طور پایدار ۱۰ تا ۱۰۰ برابر کمتر شد؛ از این رو شرکت اثر را در حدود ۹۰ تا ۹۹ درصد بیان می‌کند. این برآورد بر داده‌های داخلی پلتفرم متکی است.
شرکت همچنین آزمایشی را توضیح داده که در آن یک مدل پیش‌آموزش‌دیده با رونوشت کامل Claude Opus 4.8 روی SWE-bench Verified به ۸۰٫۴ درصد رسید، درحالی‌که آموزش با رونوشت‌های خلاصه‌شده به ۷۱٫۸ درصد انجامید. این آزمون نشان می‌دهد نوع دادهٔ آموزشی می‌تواند روی نتیجه اثر بگذارد؛ این عدد، امتیاز خود Claude جدید یا ارزیابی مستقل از عملکرد دفاع‌ها نیست.
چه محدودیت‌هایی باقی مانده است؟
آنتروپیک تصریح می‌کند که هنوز نمی‌داند این دستاوردها چه مدت دوام خواهند داشت و انتظار دارد مهاجمان به دنبال روش‌های دورزدن باشند. شرکت گفته است دفاع‌ها را دائماً به‌روزرسانی می‌کند، اما اشاره می‌کند که هنوز با یک تلاش بسیار پیچیده و پایدار برای دورزدن سامانهٔ جدید روبه‌رو نشده است. بنابراین ارقام کنونی، پیش‌بینی قطعی دربارهٔ آینده نیستند.
اهمیت خبر برای توسعه‌دهندگان چیست؟
برای سازندگان مدل، رویداد یادآور این است که محدودسازی نرخ، تشخیص الگوهای غیرعادی و کنترل دسترسی باید بخشی از طراحی سرویس باشد. برای تیم‌هایی که از مدل‌های تجاری استفاده می‌کنند، باید میان استفادهٔ عادی از API و درخواست‌هایی که می‌کوشند اطلاعات داخلی یا رونوشت‌های محافظت‌شده را بیرون بکشند، مرز روشن وجود داشته باشد. این دفاع‌ها جایگزین مجوز و سیاست روشن داده نیستند.
پرسش‌های متداول
آیا تقطیر مدل همیشه غیرقانونی است؟
خیر؛ تقطیر یک روش آموزشی عمومی است. آنچه آنتروپیک هدف قرار داده، استخراج گسترده و بدون مجوز قابلیت‌های مدل از طریق درخواست‌های فریبکارانه است.
آیا آنتروپیک ثابت کرده حمله‌ها ۹۹ درصد در همه‌جا کمتر شده‌اند؟
خیر؛ این برآورد بر داده‌های داخلی پلتفرم شرکت استوار است و اثر آن برای تمام مدل‌ها و سرویس‌ها به‌طور مستقل ثابت نشده است.
SWE-bench Verified در این خبر چه نقشی دارد؟
این بنچمارک در آزمایش آموزشی شرکت برای مقایسهٔ مدل آموزش‌دیده با رونوشت کامل و خلاصه‌شده استفاده شد؛ ارقام نقل‌شده نتیجهٔ همان آزمایش‌اند.
این مقاله را در چند نکته بخوان
- تقطیر مدل روشی برای آموزش یک مدل با استفاده از خروجی‌های مدل دیگر است، اما استخراج پنهانی و بدون مجوز قابلیت‌ها توسط آنتروپیک به عنوان حمله شناخته می‌شود.
- تغییرات اعمال‌شده شامل کنترل انتقال زمینه و رونوشت استدلال، طبقه‌بندهای دو مرحله‌ای برای شناسایی الگوهای استخراج و محدودکردن نرخ استفاده یا مسدودکردن حساب‌های متخلف است.
- این برآوردها بر اساس داده‌های داخلی پلتفرم آنتروپیک است و هنوز تأیید مستقل و نهایی ندارد و شرکت انتظار دارد مهاجمان به دنبال راه‌های دورزدن باشند.
- برای توسعه‌دهندگان، این خبر یادآور اهمیت محدودسازی نرخ، تشخیص الگوهای غیرعادی و کنترل دسترسی در طراحی سرویس‌ها است.
سؤالت را از همین مقاله بپرس
پاسخ‌ها فقط بر اساس محتوای همین مقاله تولید می‌شوند.