چه اتفاقی افتاد؟
روز سه‌شنبه ۸ سپتامبر ۲۰۲۶، جیکوب کاکسون، پژوهشگر ۲۷ ساله پیش‌آموزش مدل‌های هوش مصنوعی، اعلام کرد از شرکت آنتروپیک استعفا می‌دهد و به‌کلی از صنعت هوش مصنوعی کناره‌گیری می‌کند. او در یک رشته‌پست در شبکه اجتماعی X نوشت که سه سال گذشته را در اوپن‌ای‌آی و آنتروپیک صرف پژوهش پیش‌آموزش کرده و حالا به این نتیجه رسیده که هیچ‌کدام از این دو شرکت به‌طور مسئولانه عمل نمی‌کنند.
کاکسون صریح گفت: «هیچ‌کدام از دو شرکت مسئولانه عمل نمی‌کنند. آن‌ها مستقیم به‌سوی ابرهوش خودبهبوددهنده می‌تازند و با جان ما قمار می‌کنند.»
نگرانی اصلی کاکسون چیست؟
او معتقد است سیستم‌های هوش مصنوعی به‌زودی به سطحی می‌رسند که می‌توانند هر چیزی را هک کنند، یک شبه هر حوزه‌ای را متحول کنند و قدرت و منابع واقعی به‌دست آورند. به گفته او، پیشرفت در این زمینه‌ها کند نشده و حتی سرعت گرفته است.
کاکسون تأکید کرد که افرادی که خودشان این فناوری را می‌سازند، صادقانه باور دارند که هوش مصنوعی می‌تواند تا پایان دهه جاری همه انسان‌ها را بکشد. او این حرف را «ترفند بازاریابی» ندانست و گفت بسیاری از مدیران و پژوهشگران ارشد در مصاحبه‌های عمومی با احتیاط حرف می‌زنند، اما در خلوت همان ترس را ابراز می‌کنند.
او تفاوتی بین دو شرکت قائل شد: در اوپن‌ای‌آی بسیاری هنوز عمق خطر تمدنی را درک نکرده‌اند، اما در آنتروپیک این خطر به‌خوبی فهمیده شده. با این حال، آنتروپیک خود را در مسابقه‌ای گیر انداخته که باید اول برسد، چون باور دارد هیچ‌کس دیگر مسئولانه عمل نمی‌کند.
پاسخ اوان هوبینگر
اوان هوبینگر، مسئول ارشد علم هم‌ترازی (Alignment Science Lead) در آنتروپیک، در پاسخ به پست کاکسون نوشت: «جیکوب درست می‌گوید — ما واقعاً و صادقانه باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد!» او احتمال شخصی خود را برای وقوع این اتفاق در ده سال آینده بیش از ۱۰ درصد اعلام کرد.
هوبینگر افزود که آنتروپیک تمام تلاش خود را می‌کند، اما هنوز برنامه‌ای برای حل مشکل هم‌ترازی ابرهوش ندارد و به‌وضوح در مسیر حل آن نیست. او در پست بعدی توضیح داد که خطر مدل‌های فعلی پایین است و نگرانی اصلی‌اش ظهور ابرهوش از طریق خودبهبودی بازگشتی است؛ چیزی که به گفته خودش سریع‌تر از انتظار در حال رخ دادن است.
چرا این استعفا مهم است؟
آنتروپیک شرکتی است که از ابتدا با شعار ایمنی و مسئولیت‌پذیری تأسیس شد و بسیاری از پژوهشگران سابق اوپن‌ای‌آی را جذب کرد. استعفای یکی از پژوهشگران داخلی آن به‌خاطر نگرانی از سرعت توسعه، نشان‌دهنده تنش واقعی داخل آزمایشگاه‌های پیشرو است. گزارش‌های وال‌استریت ژورنال، فوربز و بیزینس اینسایدر نیز همین موضوع را پوشش دادند.
کاکسون به وال‌استریت ژورنال گفته بود که ممکن است تا پایان سال آینده وضعیت از کنترل خارج شود و داخل آزمایشگاه‌ها واژه‌هایی مثل «زمان فشرده» و «پایان بازی» رایج شده است. او ورود به این مرحله را از داخل یک شرکت خصوصی، قمار غرورآمیزی دانست که نباید از اسلک یک شرکت خصوصی آغاز شود.
جمع‌بندی
این رویداد بار دیگر بحث قدیمی اما حیاتی «هم‌ترازی هوش مصنوعی» را به مرکز توجه آورد. وقتی پژوهشگری که خودش مدل‌ها را آموزش می‌دهد و یکی از مسئولان ایمنی همان شرکت، هر دو از خطر انقراض انسانی حرف می‌زنند، دیگر نمی‌توان این نگرانی‌ها را صرفاً خیال‌پردازی دانست. آینده این فناوری به تصمیم‌هایی بستگی دارد که امروز در آزمایشگاه‌ها و بین دولت‌ها گرفته می‌شود.
