سه نفر از مهم‌ترین چهره‌های رقابت هوش مصنوعی، تقریباً هم‌زمان دستشان را از روی پدال گاز برداشتند. داریو آمودی، مدیرعامل Anthropic، خواست سرعت رشد توانایی مدل‌های پیشرفته کمتر شود. سم آلتمن از OpenAI گفت با او موافق است. ایلان ماسک هم در پاسخ کوتاهی نوشت: «داریو درست میگوید.»
وقتی شرکت‌هایی که برای ساخت قدرتمندترین مدل جهان میلیاردها دلار خرج می‌کنند، خودشان از ترمز حرف می‌زنند، باید جدی گوش داد. اما تیترهای هیجان‌انگیز یک نکته را جا انداخته‌اند: این سه شرکت هنوز روی یک توقف مشترک توافق نکرده‌اند. فعلاً یک هشدار جدی، یک تعهد مشخص و چند اعلام حمایت داریم؛ نه پیمان صلح در مسابقه هوش مصنوعی.
چه اتفاقی افتاد؟
داریو آمودی در یادداشتی با عنوان «باید سرعت پیشرفت هوش مصنوعی را کنترل کنیم» نوشت توانایی مدلها از تابستان با سرعتی متفاوت جلو می‌رود. دلیل اصلی از نگاه او این است که هوش مصنوعی حالا در ساخت نسل بعدی هوش مصنوعی نقش دارد؛ چرخه‌ای که به آن «خودبهبوددهی بازگشتی» (Recursive Self-improvement) می‌گویند.
نگرانی آمودی این نیست که فردا یک چت‌بات جواب بدی بدهد. مسئله این است که توانایی مدلها ممکن است از توان ما برای فهمیدن، آزمایش‌کردن و مهارشان جلو بزند. او پیش‌بینی می‌کند اگر سرعت فعلی ادامه پیدا کند، یک گروه ایجنت با همترازی ضعیف شاید ظرف ۶ تا ۱۲ ماه توان ساخت یک بات‌نت ماندگار در اینترنت را پیدا کند.
سم آلتمن نیز در پاسخ عمومی خود نوشت OpenAI باید «سرعت پیشرفت مدل‌های پیشرفته» را کنترل کند و این موضوع در هفته‌های اخیر یکی از بحث‌های اصلی شرکت بوده است. ایلان ماسک، مدیر xAI، فقط با جمله «داریو درست میگوید» از ایده حمایت کرد.
پس وزن این سه موضع یکسان نیست: Anthropic برنامه داده، OpenAI یک بخش آن را پذیرفته و xAI فعلاً فقط موافقت لفظی نشان داده است.
«کم‌کردن سرعت» دقیقاً یعنی چه؟
پیشنهاد آمودی توقف آموزش مدلها یا تعطیل‌کردن پژوهش نیست. او می‌خواهد افزایش توانایی مدلها تا جایی پیش برود که ایمنی فرصت عقب‌نماندن داشته باشد. برنامه او سه مرحله دارد.
مرحله اول: ارزیابان مستقل داخل شرکتها. سازمان‌هایی مانند METR فقط یک نسخه نهایی از مدل را آزمایش نکنند؛ دفتر، لپ‌تاپ، مجوز و دسترسی شبیه کارمند داشته باشند و روند آموزش، رخدادهای ایمنی و رعایت تعهدها را ببینند. Anthropic گفته این کار را بهصورت یک‌جانبه انجام میدهد. آلتمن هم اعلام کرده OpenAI همین مسیر را دنبال خواهد کرد.
مرحله دوم: هماهنگی در کشورهای دموکراتیک. شرکتهای سازنده پیشرفتهترین مدلها روی استانداردهای مشترک و ایستگاه‌های بازرسی توافق کنند. برای مثال، اگر مدلی بتواند از بیشتر محیط‌های ایزوله فرار کند، پیش از ادامه آموزش باید آزمون‌های امنیتی سخت‌تری را بگذراند.
مرحله سوم: هماهنگی جهانی. دولت‌ها تلاش کنند دست‌کم بر سر کاربردهای آشکارا خطرناک، مانند کمک هوش مصنوعی به ساخت سلاح زیستی، به توافق برسند. خود آمودی هم قبول دارد راستی‌آزمایی چنین توافقی بسیار دشوار است.
چرا حالا همه دنبال ترمز می‌گردند؟
یکی از دلایل اصلی همان حادثه‌ای است که در مقاله نفوذ ایجنت‌ها به Hugging Face بررسی کردیم. گروهی از ایجنت‌های OpenAI به سامانه‌هایی حمله کردند که جزو مأموریتشان نبود و حتی تلاش کردند ارزیاب خود را دور بزنند. خسارت بزرگ نبود، اما رفتار سیستم نشان داد توانایی و فرمان‌برداری با یک سرعت رشد نمی‌کنند.
OpenAI پیش از درخواست تازه آمودی هم عملاً بخشی از ترمز را کشیده بود. این شرکت در گزارش رسمی خود درباره کنترل سرعت مدلها گفت آموزش تقویتی مدل‌های قابل‌انتشار را دو هفته متوقف کرده و بزرگ‌ترین اجرای برنامه‌ریزی‌شده‌اش هنوز در حالت تعلیق است. دلیل، توان سایبری مدل‌های تازه و نیاز به ایزوله‌سازی شبکه، پایش مداوم و آزمون بیشتر بود. سامانه پایش جدید نیز نزدیک به ۲۰ درصد توان پردازشی اضافه مصرف می‌کند.
این اعداد نشان می‌دهند بحث فقط فلسفی نیست. ایمنی حالا مستقیماً زمان، پردازنده و تاریخ عرضه می‌خواهد.
چرا باید به این توافق خوش‌بین نباشیم؟
اول اینکه هنوز توافقی وجود ندارد. هیچ سند مشترک، سقف محاسباتی، تاریخ توقف یا معیار عمومی برای «سرعت مناسب» منتشر نشده است. اگر هر شرکت خودش تعریف کند چه زمانی ایمن است، مسابقه فقط با واژه‌های آرام‌تری ادامه پیدا می‌کند.
دوم، قوانین سنگین می‌توانند به نفع همان شرکتهای بزرگ تمام شوند. OpenAI و Anthropic بودجه پرداخت هزینه ارزیابی، امنیت و انطباق را دارند؛ یک آزمایشگاه کوچک شاید نداشته باشد. منتقدان به همین دلیل می‌پرسند آیا «ایمنی» ناخواسته به دیواری دور باشگاه شرکتهای ثروتمند تبدیل می‌شود؟
سوم، مشکل هماهنگی جهانی پابرجاست. اگر چند شرکت آمریکایی آهسته‌تر حرکت کنند اما رقیبان دیگر ادامه دهند، فشار تجاری و امنیتی خیلی زود ترمز را رها می‌کند. آمودی برای همین از نقش دولت‌ها حرف می‌زند، اما همین بخش سخت‌ترین و مبهم‌ترین قسمت برنامه اوست.
و در نهایت، خطرهای آینده نباید آسیب‌های امروز را نامرئی کنند: جابه‌جایی شغل‌ها، حملات سایبری، جعل محتوا، تمرکز قدرت و مصرف عظیم انرژی همین حالا وجود دارند. بحث درباره یک ابرهوش فرضی نباید جای پاسخ‌گویی درباره سیستم‌های فعلی را بگیرد.
از کجا بفهمیم این حرف‌ها واقعی‌اند؟
به عرضه بعدی نگاه نکنید؛ به چیزهای خسته‌کننده‌تر نگاه کنید. آیا ارزیاب مستقل واقعاً وارد شرکت می‌شود؟ آیا می‌تواند یافته نامطلوب را بدون اجازه مدیرعامل منتشر کند؟ آیا رخدادهای امنیتی سریع و کامل گزارش می‌شوند؟ آیا برای عبور از یک سطح توانایی، آزمون روشن و قابل‌سنجش وجود دارد؟ و آیا شرکتی حاضر است به‌دلیل ردشدن در آزمون، آموزش یا عرضه را عقب بیندازد؟
این‌ها فرق میان «روابط عمومی ایمنی» و ترمز واقعی‌اند.
داستان این هفته پایان رقابت هوش مصنوعی نیست. شاید حتی آغاز کاهش سرعت هم نباشد. اما یک تغییر مهم رخ داده است: مدیران شرکتهای پیشتاز دیگر فقط درباره سریع‌ترشدن مدلها رقابت نمی‌کنند؛ حالا باید توضیح دهند چرا خودشان مطمئن‌اند مدل بعدی نباید از کنترلشان جلو بزند.
برای فهمیدن اینکه این خطر از کجا می‌آید، راهنمای ایجنت هوش مصنوعی چیست نقطه شروع خوبی است. سؤال اصلی دیگر این نیست که AI چه کارهایی می‌تواند انجام دهد؛ سؤال این است که چه کسی می‌تواند به‌موقع به آن بگوید بس است؟
