در یک اتاق هتل در سانتا کلارا، کالیفرنیا، پنج تن از اعضای شرکت هوش مصنوعی آنتروپیک با عجله دور یک لپ‌تاپ جمع شده و مشغول کار بودند. فوریه ۲۰۲۵ بود و آن‌ها که در همان حوالی در یک کنفرانس شرکت کرده بودند، خبر نگران‌کننده‌ای دریافت کردند: نتایج یک آزمایش کنترل‌شده نشان می‌داد که نسخه در آستانه انتشار کلاود (Claude)، سیستم هوش مصنوعی آنتروپیک، می‌تواند به تروریست‌ها در ساخت سلاح‌های بیولوژیک کمک کند.

آن‌ها اعضای «تیم قرمزِ خط مقدم» آنتروپیک بودند که قابلیت‌های پیشرفته کلاود را بررسی می‌کند و تلاش دارد بدترین سناریوهای ممکن، از حملات سایبری گرفته تا تهدیدات امنیت زیستی را پیش‌بینی کند. با عجله به اتاق هتل برگشتند، تختی را به پهلو برگرداندند تا از آن به عنوان یک میز موقت استفاده کنند و به بررسی دقیق نتایج آزمایش پرداختند. پس از ساعت‌ها کار، هنوز مطمئن نبودند که آیا محصول جدید ایمن است یا خیر. در نهایت، آنتروپیک انتشار این مدل جدید را که با نام «کلاود ۳.۷ سونت» (Claude 3.7 Sonnet) شناخته می‌شد، به مدت ۱۰ روز به تعویق انداخت تا از ایمنی آن اطمینان کامل حاصل کند. این زمان شاید زیاد به نظر نرسد، اما برای شرکتی که در خط مقدم صنعتی با سرعت تغییر و تحول جهانی فعالیت می‌کند، شبیه به الی الابد بود.

لوگان گراهام، رهبر تیم قرمز، از این وحشتِ مرتبط با سلاح‌های بیولوژیک به عنوان نمونه‌ای از چالش‌هایی یاد می‌کند که آنتروپیک در مقطعی حیاتی برای این شرکت و جهان با آن مواجه است. آنتروپیک، آزمایشگاه پیشگام هوش مصنوعی است که بیشترین تاکید را بر روی ایمنی دارد. این شرکت همچنین پیشتاز رقابتی برای خلق نسخه‌های قدرتمندتر از فناوری است که بسیاری از کارکنانش معتقدند می‌تواند به مجموعه‌ای از اتفاقات وحشتناک، از جنگ هسته‌ای گرفته تا انقراض بشر، منجر شود. گراهام ۳۱ ساله که چهره‌ای جوان دارد، مسئولیتِ ایجاد تعادل بین مزایای هوش مصنوعی و خطرات عظیم آن را دست‌کم نمی‌گیرد. او می‌گوید: «تصور برخی افراد که در دنیایی آرام بزرگ شده‌اند، این است که حتماً در جایی، اتاقی پر از بزرگسالان وجود دارد که می‌دانند چگونه مشکلات را حل کنند. اما هیچ گروهی از بزرگسالان وجود ندارد. اصلاً چنین اتاقی در کار نیست و دری وجود ندارد که به دنبال آن بگردید. شما خودتان مسئول هستید.»

اگر این گفته به اندازه کافی تکان‌دهنده نیست، به نحوه یادآوری او از وحشتِ سلاح‌های بیولوژیک توجه کنید: «روز جالب و سرگرم‌کننده‌ای بود.»

گراهام چند هفته پیش در مقر اصلی آنتروپیک صحبت می‌کرد؛ جایی که مجله تایم سه روز را صرف مصاحبه با مدیران اجرایی، مهندسان، مدیران محصول و رهبران بخش ایمنی کرد تا دریابد چگونه شرکتی که زمانی «برادر کوچک و عجیب» در رقابت هوش مصنوعی بود، ناگهان به پیشاهنگ و سرعت‌بخش این عرصه تبدیل شده است. آنتروپیک به تازگی و در آستانه عرضه اولیه سهام (IPO) احتمالی خود در سال جاری، ۳۰ میلیارد دلار از سرمایه‌گذاران جمع‌آوری کرده است. (شرکت سیلزفورس – که مالک تایم، مارک بنیوف، مدیرعامل آن است – یکی از سرمایه‌گذاران آنتروپیک محسوب می‌شود). ارزش ۳۸۰ میلیارد دلاری این شرکت، هم‌اکنون از غول‌هایی چون گلدمن ساکس، مک‌دونالدز و کوکاکولا پیشی گرفته است و درآمدهای آن با سرعت موشک در حال افزایش است. کلاود به عنوان یک مدل در کلاس جهانی شناخته می‌شود و محصولاتی مانند Code و Cowork در حال دگرگون کردن معنای برنامه‌نویس بودن هستند. ابزارهای این شرکت به قدری کارآمدند که هر نسخه جدید، شوک‌هایی به بازار سهام وارد می‌کند، زیرا سرمایه‌گذاران درک می‌کنند که این پیشرفت‌ها قرار است دسته‌بندی‌های کاملی از مشاغل، از حقوق گرفته تا توسعه نرم‌افزار را زیر و رو کنند. طی چند ماه گذشته، آنتروپیک خود را به عنوان شرکتی معرفی کرده است که بیشترین آمادگی را برای ایجاد ساختار شکنی و اختلال در آینده فضای کاری دارد.

اما سپس، آنتروپیک خود را در میانه نزاعی بر سر آینده جنگ یافت. برای بیش از یک سال، کلاود مدل هوش مصنوعیِ منتخب دولت ایالات متحده و اولین سیستم پیشگامی بود که برای استفاده در امور طبقه‌بندی‌شده و محرمانه مجوز گرفت. در ماه ژانویه، از این سیستم در عملیات متهورانه دستگیری نیکلاس مادورو، رئیس‌جمهور ونزوئلا، در کاراکاس استفاده شد. اما در هفته‌های بعد، رابطه بین آنتروپیک و پنتاگون از هم پاشید. در ۲۷ فوریه، دولت ترامپ اعلام کرد که این شرکت را به عنوان یک «خطر زنجیره تامین برای امنیت ملی» معرفی می‌کند؛ این اولین باری بود که آمریکا چنین برچسبی را به یک شرکت داخلی می‌زد. شرکتی که سریع‌ترین رشد نرم‌افزاری در تاریخ را تجربه می‌کرد، حالا در حال جنگ با دولت خود بود. رئیس‌جمهور ایالات متحده، ترامپ دستور داد که ایالات متحده تمام استفاده‌های خود از نرم‌افزار آنتروپیک را متوقف کند. پیت هگست (Pete Hegseth)، وزیر دفاع، اعلام کرد که هر شرکتی که با دولت تجارت می‌کند، از انجام تجارت با آنتروپیک منع خواهد شد. در این میان، رقیب آنتروپیک یعنی OpenAI، وارد میدان شد تا قرارداد نظامی را امضا کند. در واقع، ساختارشکن‌ترین شرکت جهان، خود دچار ساختار شکنی شده بود.

در کانون این رویارویی، این پرسش مطرح است که چه کسی حق دارد محدودیت‌هایی بر روی فناوری‌ای اعمال کند که به عنوان یکی از قدرتمندترین سلاح‌های در اختیار آمریکا شناخته می‌شود. آنتروپیک از به کارگیری ابزارهایش در نبردهای نظامی خرسند بود و استدلال می‌کرد که تقویت ارتش آمریکا تنها راه برای دفع تهدید کشورهای اقتدارگرایی نظیر چین است. با این حال، داریو آمودی (Dario Amodei)، مدیرعامل شرکت، با تلاش پنتاگون برای مذاکره مجدد بر سر قراردادهای دولتی شرکت به منظور صدور مجوز برای «تمام استفاده‌های قانونی» مخالفت کرده بود. آمودی دو نگرانی خاص را مطرح کرد: او نمی‌خواست از هوش مصنوعی آنتروپیک در سیستم‌های تسلیحاتی کاملاً خودکار، یا برای انجام نظارت و جاسوسی دسته‌جمعی از شهروندان آمریکایی استفاده شود.

هگست و مشاورانش از آنچه تلاش یک شرکت خصوصی برای دیکته کردن نحوه جنگیدن ارتش می‌پنداشتند، خشمگین شدند. از دیدگاه وزارت دفاع، آنتروپیک با پافشاری بر روی موانع غیرضروری، تلاش برای به بحث کشیدن فرضیات خاص و سپس اتلاف وقت در مذاکرات بعدی، این مشارکت را فلج کرده بود. دولت ترامپ، آمودی را فردی مغرور و لجباز می‌دید و حاضر نبود تحمل کند که یک شرکت خصوصی، فارغ از اینکه محصولش چقدر خوب است، خود را در زنجیره فرماندهی نظامی دخالت دهد. امیل مایکل (Emil Michael)، معاون وزیر جنگ و مدیر ارشد فناوری در پنتاگون می‌گوید: «این موضوع فقط کش پیدا کرد. من نمی‌توانم یک وزارتخانه ۳ میلیون نفری را با استثنائاتی که حتی نمی‌توانم تصورش را بکنم اداره کنم.»

از سیلیکون‌ولی تا کپیتال هیل، بسیاری از ناظران در این فکر بودند که آیا واقعاً موضوع فقط یک اختلاف قراردادی است یا خیر. منتقدان در اقدامات دولت ترامپ، تلاشی نگران‌کننده برای زمین زدن شرکتی می‌دیدند که سیاست‌هایش را نمی‌پسندید. آمودی در یک یادداشت داخلیِ فاش‌شده نوشت: «دلایل واقعی که [وزارت دفاع] و دولت ترامپ از ما خوششان نمی‌آید این است که ما به کمپین ترامپ کمک مالی نکرده‌ایم. ما مانند سم آلتمن (مدیرعامل OpenAI)، ستایش‌های دیکتاتورمآبانه نثار ترامپ نکرده‌ایم؛ ما از مقررات هوش مصنوعی حمایت کرده‌ایم که برخلاف دستور کار آن‌هاست؛ ما درباره تعدادی از مسائل سیاست‌گذاری هوش مصنوعی (مانند از بین رفتن مشاغل) حقیقت را گفته‌ایم؛ و ما در واقع خطوط قرمز خود را با یکپارچگی حفظ کردیم، به جای آنکه با آن‌ها برای تولید یک “نمایش ایمنی ظاهری” تبانی کنیم.» مایکل این ادعا را رد کرده و آن را «دروغی محض» می‌خواند و می‌گوید این تصمیم به این دلیل گرفته شد که موضع آنتروپیک جان سربازان را به خطر می‌انداخت: «کار من در وزارت جنگ سیاست‌بازی نیست؛ وظیفه من دفاع از کشور است.»

فرهنگ غیرمتعارف آنتروپیک با سیاست‌های تفرقه‌انگیز داخلی، امنیت ملی و دنیای تاریک رقابت‌های بی‌رحمانه شرکتی برخورد کرده بود. مشخص نیست این شرکت در این تصادف چقدر آسیب دیده است. عنوان “خطر زنجیره تامین” محدودتر از آن چیزی بود که در ابتدا تهدید می‌شد؛ به گفته آنتروپیک، این موضوع فقط در مورد قراردادهای نظامی اعمال می‌شود. در ۹ مارس، آنتروپیک برای لغو این لیست سیاه از دولت شکایت کرد. به نظر می‌رسید مشتریان به دلیل ایستادگی اخلاقی این شرکت به آن پاداش دادند، چرا که بسیاری ChatGPT را رها کرده و به کلاود روی آوردند. با این حال، این شرکت اکنون باید سه سال آینده را زیر سایه دولتی خصمانه و اهل معامله‌گری سیاسی طی کند؛ دولتی که مقامات آن روابط نزدیکی با رقبای سرسختی دارند که به شدت از آنتروپیک متنفرند.

ماجرای پنتاگون پرسش‌های آزاردهنده‌ای را حتی برای شرکتی که به عبور از معاملات دشوار اخلاقی عادت دارد، به وجود می‌آورد. در این رویارویی، آنتروپیک تسلیم نشد: این شرکت ادعا کرد که به ارزش‌های خود پایبند مانده است، حتی زمانی که هزینه گزافی برای شرکت به همراه داشت. اما در موارد دیگر، تسلیم شده است. در همان هفته‌ای که در برابر پنتاگون ایستادگی کرد، شرکت بخش اصلی تعهد خود را برای آموزش ایمنِ مدل‌هایش تعدیل نمود و دلیل آن را عدم تمایل همتایانش به انجام کار مشابه عنوان کرد. آن‌ها حاضرند چه سازش‌های دیگری انجام دهند؟

خطرات مدام در حال افزایش هستند. رقابت بر سر کنترل هوش مصنوعی با قدرتمندتر شدن این فناوری تشدید خواهد شد. استفاده از کلاود در ونزوئلا و ایران نشان می‌دهد که هوش مصنوعی پیشرفته اکنون به ابزاری جدایی‌ناپذیر برای قدرتمندترین ارتش جهان تبدیل شده است. در همین حال، مجموعه‌ای از فشارهای جدید – قدرت دولتی، سیاست‌های داخلی، ضرورت‌های امنیت ملی – بر روی شرکتی انتفاعی انباشته شده است که در رقابتی برای استقرار یک فناوری جدید و بی‌ثبات قرار دارد. درست مانند زیست‌شناسانی که در آزمایشگاه پاتوژن‌های مرگبار تولید می‌کنند تا درمانی بیابند، آنتروپیک نیز نقشه‌برداری از خطرات هوش مصنوعی را بر عهده گرفت و مرزهای توسعه را پیش راند تا آن را به دست کسانی که تمایل بیشتری به میانبرهای خطرناک دارند، نسپارد. با این وجود، حتی در شرایطی که آنتروپیک به احتیاط موعظه می‌کند، از کلاود برای تسریع در توسعه نسخه‌های آینده و قدرتمندتر از خودش استفاده می‌کند. کارکنان بر این باورند که چند سال آینده آزمونی حیاتی برای این شرکت و برای جهان خواهد بود. گراهام می‌گوید: «ما باید طوری عمل کنیم که گویی سال‌های ۲۰۲۶ تا ۲۰۳۰ زمانی است که تمام مهم‌ترین اتفاقات رخ می‌دهد – مدل‌هایی که سریع‌تر و بهتر می‌شوند و احتمالاً سرعتشان از توانایی کنترل انسان‌ها فراتر می‌رود.» همان‌طور که دیو اور (Dave Orr)، رئیس بخش تدابیر ایمنی آنتروپیک بیان می‌کند: «ما در حال رانندگی در جاده‌ای در لبه پرتگاه هستیم. یک اشتباه شما را به کشتن خواهد داد. و اکنون به جای سرعت ۲۵، با سرعت ۷۵ در حال رانندگی هستیم.»

طبقه پنجم دفتر مرکزی آنتروپیک در سان‌فرانسیسکو، پر از نور ملایم و چوب‌های گرم است. پنجره‌ها به سمت پارکی سرسبز باز می‌شوند. پرتره‌ای از آلن تورینگ، یکی از پدران علوم کامپیوتر، در کنار مقالات قاب‌شده‌ی یادگیری ماشینی روی دیوار نصب شده است. پرسنل امنیتی سیاه‌پوش در ورودی تقریباً خالی گشت‌زنی می‌کنند، جایی که یک مسئول پذیرش خوش‌رو نسخه‌هایی از یک کتاب کوچک را به بازدیدکنندگان می‌دهد؛ کتابی به اندازه انجیل‌های جیبی که مبلغان مذهبی در گوشه خیابان‌ها توزیع می‌کنند. این نسخه‌ای از مقاله ۱۴ هزار کلمه‌ای «ماشین‌های محبت الهی» (Machines of Loving Grace) است که داریو آمودی در سال ۲۰۲۴ نوشت و چشم‌انداز آرمان‌گرایانه خود را در مورد اینکه چگونه هوش مصنوعی می‌تواند با تسریع اکتشافات علمی جهان را دگرگون کند، ارائه داد. در ژانویه، آمودی مقاله طولانی دیگری به نام «بلوغ فناوری» (The Adolescence of Technology) منتشر کرد که در آن به خطرات همراه این فناوری پرداخت: امکان‌سنجی نظارت و جاسوسی دسته‌جمعی، از دست رفتن گسترده مشاغل و حتی از دست دادن دائمی کنترل توسط انسان.

آمودی یک بیوفیزیکدان بزرگ‌شده در سان‌فرانسیسکو است. او آنتروپیک را به همراه خواهرش، دانیلا که رئیس شرکت است، اداره می‌کند. آن‌ها از کارمندان اولیه OpenAI بودند؛ جایی که داریو به یک کشف حیاتی در مورد قوانین مقیاس‌پذیری هوش مصنوعی کمک کرد که موجب شروع رونق فعلی هوش مصنوعی شد. دانیلا نیز مدیری بود که مسئولیت سیاست‌های ایمنی را بر عهده داشت. در ابتدا، آن‌ها احساس می‌کردند که با مأموریت پایه‌گذاری OpenAI برای توسعه ایمن فناوری‌ای با مزایای بالقوه عظیم و خطرات معادل آن، همسو هستند. اما با قدرتمندتر شدن مدل‌های OpenAI، آن‌ها احساس کردند که آلتمن در حال عجله برای انتشار محصولات جدید است، بدون آنکه زمان کافی برای تأمل و آزمایش اختصاص دهد. بنابراین، این خواهر و برادر تصمیم گرفتند راه خود را جدا کنند.

آن‌ها آنتروپیک را در سال ۲۰۲۱، به همراه پنج هم‌بنیان‌گذار دیگر، در اوج دوران همه‌گیری تاسیس کردند؛ جلسات برنامه‌ریزی را در زوم برگزار می‌کردند و در نهایت صندلی‌هایی را به یک پارک می‌آوردند تا شخصاً استراتژی بچینند. از همان ابتدا، شرکت به دنبال انجام کارها به شیوه‌ای متفاوت بود. آنتروپیک حتی پیش از داشتن محصول، یک تیم «اثرات اجتماعی» تشکیل داد. این شرکت یک فیلسوف داخلی به نام آماندا آسکِل (Amanda Askell) استخدام کرده است که نقشش شکل دادن به احساسات کلاود و آموزش پیمایش در عدم قطعیت‌های اخلاقی به آن است، تا برای آینده‌ای که هوش مصنوعی به مراتب باهوش‌تر از خالقان خود خواهد بود، آماده شود. آسکِل می‌گوید: «گاهی اوقات احساس می‌کنید یک کودک ۶ ساله دارید و در حال آموزش دادن مفهوم نیکی به او هستید. زمانی که او به ۱۵ سالگی برسد، در همه چیز از شما باهوش‌تر خواهد شد.»

با رشد شرکت، آنتروپیک مصمم بود تا ارزش‌های اولیه و فرهنگ منسجم خود را حفظ کند. کارمندان خود را «مورچه‌ها» (ants) می‌نامند. بسیاری از آن‌ها در یک کانال اسلک (Slack) با عنوان «دفترچه یادداشت» دیجیتالی، امیدها، ترس‌ها و بینش‌های خود را به صورت جریان سیال ذهن به اشتراک می‌گذارند. دانیلا می‌گوید داریو نوشته‌های طولانی خود را در آنجا می‌نویسد و همچنین سخنرانی‌های دوهفته‌ای برای کل شرکت برگزار می‌کند که در داخل شرکت به «جستجوهای بینشی داریو» معروف است. مدیران به حفظ حس مشترک هدفمند بودن اصرار دارند. نیروهای استخدامی جدید باید از یک «مصاحبه فرهنگی» بسیار گزینشی عبور کنند که بخشی از آن برای رد کردن افرادی طراحی شده است که با مأموریت شرکت همسو نیستند. (یک نمونه سؤال: آیا اگر آنتروپیک تصمیم بگیرد مدل‌هایی را منتشر نکند چون نمی‌تواند ایمنی آن‌ها را تضمین کند، حاضرید ارزش سهام خود را از دست بدهید؟) دانیل فریمن، یکی از اعضای تیم قرمز آنتروپیک که قبلاً در گوگل کار می‌کرد، می‌گوید: شرکت‌های رقیب دارای قلمروهای مستقلی هستند «که هر کدام به چیزهای مختلفی اهمیت می‌دهند و در پنهان با یکدیگر در جنگ هستند. من مطلقاً هرگز چنین چیزی را در آنتروپیک احساس نکرده‌ام.»

این شرکت ریشه‌های عمیقی در جنبش دگرخواهی مؤثر (Effective Altruism یا EA) دارد؛ یک جنبش اجتماعی و بشردوستانه که به استفاده از منطق برای انجام بیشترین خیر ممکن، از جمله با دفع فجایع، اختصاص دارد. در دهه ۲۰ زندگی‌شان، خواهر و برادر آمودی شروع به کمک مالی به GiveWell کردند، یک گروه EA که ارزیابی می‌کند کمک‌های خیریه در کجا می‌توانند مؤثرتر استفاده شوند. هر هفت بنیان‌گذار شرکت که اکنون میلیاردرهای کاغذی هستند، متعهد شده‌اند که ۸۰ درصد از ثروت خود را ببخشند. همسر سابق آسکِل، ویلیام مک‌آسکیل (فیلسوف آکسفورد که از بنیان‌گذاران جنبش EA بود) است و دانیلا آمودی با هولدن کارنوفسکی ازدواج کرده است؛ از هم‌بنیان‌گذاران GiveWell و هم‌اتاقی سابق داریو که روی سیاست‌های ایمنی در آنتروپیک کار می‌کند. با این حال، خانواده آمودی هرگز به طور علنی برچسب EA را نپذیرفته‌اند؛ برچسبی که پس از کلاهبرداری عظیم سم بنکمن-فرید (یکی از اعضای EA که در آنتروپیک سرمایه‌گذاری کرده بود) به شدت جنجال‌برانگیز شد. دانیلا آمودی می‌گوید: «همان‌طور که ممکن است برخی افراد از جهاتی با یک ایدئولوژی سیاسی هم‌پوشانی داشته باشند اما وابستگی سیاسی نداشته باشند، من نیز بیشتر این‌گونه به موضوع نگاه می‌کنم.»

برای برخی در سیلیکون‌ولی و دولت ترامپ، پیوندهای آنتروپیک با EA دلیل بر شکاکیت بود. دیوید ساکس، مسئول هوش مصنوعی دولت ترامپ، این شرکت را متهم کرد که در حال اجرای یک «استراتژی پیچیده تسخیر رگولاتوری مبتنی بر ایجاد ترس» است؛ تا با ترساندن دولت‌ها برای تصویب قوانین سخت‌گیرانه هوش مصنوعی، خود را نسبت به استارتاپ‌ها در موقعیت برتری قرار دهد. ایلان ماسک، رئیس شرکت رقیب xAI، دوست دارد این شرکت را «Misanthropic» (مردم‌گریز) بنامد و در برابر آنچه او گروهی از نخبگان قدرتمند “Woke” (بیدار) می‌داند که سعی در القای ارزش‌های پدرسالارانه به سیستم‌های هوش مصنوعی دارند، موضع می‌گیرد. اما حتی رقبای آنتروپیک با اکراه می‌پذیرند که فناوری آن‌ها پیشگام است. جنسن هوانگ، مدیرعامل انویدیا گفته است که «تقریباً با تمام چیزهایی که داریو آمودی درباره هوش مصنوعی می‌گوید مخالف است»، اما کلاود را به عنوان یک مدل «باورنکردنی» می‌شناسد. در ماه نوامبر، انویدیا غول تراشه‌سازی، ۱۰ میلیارد دلار در آنتروپیک سرمایه‌گذاری کرد.

در داخل شرکت، کارمندان شروع به طرح این پرسش کردند که آیا آنتروپیک به لبه نقطه‌ای رسیده است که با ترس و شگفتی در انتظارش بودند: رسیدن به فرآیندی که در محافل هوش مصنوعی به عنوان “بهبود خودکارِ بازگشتی” (recursive self-improvement) شناخته می‌شود. بهبود خودکار بازگشتی زمانی است که یک سیستم هوش مصنوعی شروع به بهتر کردن خود می‌کند و چرخه‌ای ایجاد می‌کند که پیوسته شتاب می‌گیرد. در داستان‌های علمی‌تخیلی و تمرینات برنامه‌ریزی آزمایشگاه‌های بزرگ هوش مصنوعی، این همان زمانی است که اوضاع می‌تواند به شدت رو به وخامت بگذارد؛ یک «انفجار هوش» که آن‌قدر سریع رخ می‌دهد که انسان‌ها دیگر نمی‌توانند بر آنچه ساخته‌اند نظارت کنند.

آنتروپیک هنوز کاملاً به آنجا نرسیده است – دانشمندان انسانی هنوز پیشرفت کلاود را هدایت می‌کنند – اما Claude Code در حال حاضر به آنتروپیک اجازه می‌دهد تا برنامه‌های خود را بسیار سریع‌تر از قبل اجرا کند. مدل‌های جدید اکنون با فاصله چند هفته منتشر می‌شوند، نه چند ماه. حدود ۷۰ تا ۹۰ درصد کدهای استفاده شده در توسعه مدل‌های آینده اکنون توسط کلاود نوشته می‌شود. سرعت تغییرات به حدی است که جرد کاپلان، دانشمند ارشد و هم‌بنیان‌گذار آنتروپیک، و همچنین برخی کارشناسان خارجی، معتقدند تحقیق و توسعه کاملاً خودکار هوش مصنوعی ممکن است تنها یک سال تا واقعیت فاصله داشته باشد. ایوان هوبینگر، مدیر تست استرس هم‌ترازی آنتروپیک می‌گوید: «بهبود خودکار بازگشتی در وسیع‌ترین معنای آن، یک پدیده مربوط به آینده نیست. این پدیده‌ای است که در زمان حال وجود دارد.»

در حال حاضر، بر اساس بنچمارک‌های داخلی، کلاود در انجام برخی وظایف کلیدی ۴۲۷ بار سریع‌تر از ناظران انسانی خود عمل می‌کند. یکی از محققان در مصاحبه‌ای توضیح داد که همکارش شش نسخه از کلاود را اجرا می‌کرده که هر کدام مدیریت ۲۸ کلاود دیگر را بر عهده داشتند و همه آن‌ها به طور همزمان و موازی در حال انجام آزمایش بودند. در حالی که این مدل هنوز فاقد قضاوت یا سلیقه ناظران انسانی است، مدیران انتظار ندارند این شکاف زیاد دوام بیاورد. شتاب ناشی از این امر دقیقاً همان چیزی است که رهبری آنتروپیک هشدار می‌دهد. هلن تونر (Helen Toner)، مدیر اجرایی موقت مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون می‌گوید که تلاش برای خودکارسازی کاملِ تحقیق و توسعه هوش مصنوعی مستحق یک واکنش بهت‌زده (WTF) است.

آنتروپیک با پیش‌بینی آینده‌ای که در آن پیشرفت فناوری می‌تواند از توانایی شرکت برای مدیریت خطرات پیشی بگیرد، یک مکانیسم ترمز به نام «سیاست مقیاس‌پذیری مسئولانه» (RSP) ایجاد کرد. این سند که در سال ۲۰۲۳ منتشر شد، آنتروپیک را متعهد می‌کرد در صورتی که نتواند از قبل تضمین کند که اقدامات ایمنی‌اش کافی است، توسعه سیستم هوش مصنوعی را متوقف کند. آنتروپیک این سیاست را به عنوان سندی بر آگاهی از ایمنی و تمایل به مقاومت در برابر انگیزه‌های بازار در مسیر رسیدن به هوش جامع توصیف کرد.

اما در اواخر فوریه، همان‌طور که تایم برای اولین بار گزارش داد، آنتروپیک سیاست خود را بازنویسی کرد و تعهد الزام‌آور برای توقف توسعه را کنار گذاشت. کاپلان به تایم می‌گوید که در نگاهی به گذشته، این تصور که آنتروپیک می‌تواند مرزهای روشنی بین خطر و ایمنی شناسایی کند، «ساده‌لوحانه» بود. او می‌گوید: «با پیشرفت سریع هوش مصنوعی، ما واقعاً احساس نکردیم منطقی است که در حالی که رقبا با سرعت در حال پیشرفت هستند، تعهدات یک‌جانبه بدهیم.» نسخه جدید این سیاست شامل تعهداتی برای شفافیت بیشتر در مورد خطرات ایمنی هوش مصنوعی است. این سیاست شرکت را متعهد به تطبیق یا پیشی گرفتن از تلاش‌های ایمنی رقبا می‌کند. و وعده می‌دهد که توسعه را «به تاخیر» بیندازد اگر رهبران شرکت هم آنتروپیک را رهبر رقابت هوش مصنوعی بدانند و هم خطرات بروز فاجعه را قابل‌توجه ارزیابی کنند. شرکت این تغییر را به عنوان امتیازی عمل‌گرایانه در برابر واقعیت‌های ناخوشایند توصیف کرد. اما به طور کلی، تغییر RSP باعث شد آنتروپیک بسیار کمتر از قبل به سیاست‌های ایمنی خود مقید باشد و این پیش‌درآمدی بر آزمون‌های سخت‌ترِ پیش رو بود.

عملیاتی که به دستگیری نیکلاس مادورو، رئیس‌جمهور ونزوئلا انجامید، یکی از اولین عملیات‌های نظامی بزرگ بود که با کمک یک سیستم پیشگام هوش مصنوعی برنامه‌ریزی شد. در نیمه‌شب ۳ ژانویه، هلیکوپترهای ارتش آمریکا وارد حریم هوایی ونزوئلا شدند. پس از تبادل آتش، کماندوها محل زندگی رئیس‌جمهور را محاصره کردند. آن‌ها مادورو و همسرش را دستگیر کرده و برای مواجهه با اتهامات تروریسم مواد مخدر به نیویورک منتقل کردند. جزئیات کامل نحوه استفاده از کلاود در این عملیات مشخص نیست، اما طبق گزارش آکسیوس (Axios)، کلاود در برنامه‌ریزی این مأموریت کمک کرد و در طول خود حمله نیز مورد استفاده قرار گرفت.

از ماه جولای گذشته، وزارت دفاع برای توزیع ابزارهای هوش مصنوعی آنتروپیک در میان بسیاری از نظامیان خود فشار آورده بود و مزایای عظیمی در توانایی آن‌ها برای دریافت حجم انبوهی از اطلاعات از منابع متعدد و تولید اطلاعات قابل استفاده می‌دید. مارک بیل (Mark Beall)، مقام ارشد سابق وزارت دفاع که اکنون به عنوان رئیس امور دولتی در شبکه سیاست هوش مصنوعی فعالیت می‌کند می‌گوید: «کلاود به عنوان بهترین مدل موجود در بازار برای ارتش دیده می‌شود. پذیرش کلاود در دنیای طبقه‌بندی‌شده یکی از بزرگترین موفقیت‌های آنتروپیک بوده است. آن‌ها مزیت اولین حرکت‌کننده را داشتند.»

اما حمله به مادورو در بحبوحه مذاکرات پیچیده بین آنتروپیک و پنتاگون رخ داد. وزارت دفاع ماه‌ها بود که تلاش می‌کرد قراردادی را که آن را بیش از حد محدودکننده می‌دانست، دوباره مذاکره کند. نحوه به انحراف کشیده شدن این گفتگوها مورد مناقشه است. مایکل، رئیس هوش مصنوعی وزارت دفاع می‌گوید عامل اصلی، تماسی از سوی یک مدیر اجرایی آنتروپیک با شرکت پالانتیر (Palantir – شرکت تحلیلی متمرکز بر دولت) بود که طی آن نگرانی‌هایی درباره حمله ونزوئلا ابراز شد و پرسید که آیا از نرم‌افزار آن‌ها استفاده شده است یا خیر. او می‌گوید: «آن‌ها در حال درخواست اطلاعات طبقه‌بندی‌شده بودند. این موضوع ما را به شدت نگران کرد که: آیا در درگیری‌های آینده، آن‌ها مدل خود را خاموش خواهند کرد؟» علاوه بر این، در خصوص امکان ایجاد پرونده‌های دقیق از زندگی خصوصی شهروندان آمریکایی از جمله دیدگاه‌های سیاسی، روابط، زندگی خصوصی و تاریخچه مرورگر آن‌ها نگرانی‌هایی ابراز شد (البته آنتروپیک به امکان استفاده از کلاود در نظارت قانونی انبوه بر شهروندان خارجی با استفاده از روش‌های مشابه اعتراضی نداشت).

هگست بدون هیچ انعطافی به آمودی تا ساعت ۵ بعدازظهر روز جمعه، ۲۷ فوریه، فرصت داد تا شرایط وزارتخانه را بپذیرد یا به عنوان “خطر زنجیره تامین” شناخته شود. یک روز قبل از ضرب‌الاجل، به آنتروپیک یک قرارداد اصلاح‌شده پیشنهاد شد که به نظر می‌رسید خطوط قرمز آن‌ها را می‌پذیرد، اما فردی مطلع از مذاکرات می‌گوید که بررسی دقیق‌تر نشان داد این قرارداد شامل روزنه‌هایی (loopholes) برای دولت است. در حالی که زمان در حال گذر بود، مدیران آنتروپیک تماس دیگری با مایکل در پنتاگون گرفتند. آن‌ها معتقد بودند به یافتن سازش نزدیک شده‌اند، اما هنوز در مورد اینکه آیا پنتاگون می‌تواند از کلاود برای تجزیه و تحلیل داده‌های انبوه خریداری‌شده تجاری از آمریکایی‌ها استفاده کند یا خیر، اختلاف نظر داشتند. مایکل خواست که داریو آمودی به تماس بپیوندد، اما او در دسترس نبود. دقایقی بعد، با پایان یافتن ضرب‌الاجل، هگست پایان مذاکرات را اعلام کرد. حتی پیش از آن، ترامپ نیز وارد ماجرا شده بود و در شبکه اجتماعی خود نوشت: «ایالات متحده آمریکا هرگز اجازه نخواهد داد یک شرکت چپ افراطی و ووک (woke) به ارتش بزرگ ما دیکته کند که چگونه بجنگد و در جنگ‌ها پیروز شود! دیوانه‌های چپ‌گرای آنتروپیک مرتکب یک اشتباه فاجعه‌بار شده‌اند.»

بدون اطلاع آنتروپیک، پنتاگون همزمان در حال مذاکره با OpenAI بود تا ChatGPT را در سیستم‌های طبقه‌بندی‌شده دولتی در دسترس قرار دهد. آلتمن در همان عصر قراردادی را اعلام کرد و مدعی شد که با پنتاگون به توافقی دست یافته که به خطوط قرمزی مشابه آنچه آنتروپیک می‌خواست احترام می‌گذارد. آمودی پیامی به کارمندان خود فرستاد و گفت که آلتمن و پنتاگون در تلاش برای فریب افکار عمومی (gaslighting) هستند تا نشان دهند توافق آن‌ها دارای حفاظ‌های قابل توجهی است. مقامات دفاعی پیش‌تر تایید کرده بودند که شرکت xAI متعلق به ماسک نیز مدل خود را روی سرورهای طبقه‌بندی‌شده ارائه خواهد داد؛ پنتاگون در حال حاضر با گوگل نیز در حال مذاکره است.

این رویداد دقیقاً همان چیزی بود که آمودی از آن می‌ترسید: مسابقه‌ای برای سقوط به قعر (race to the bottom)، جایی که قدرت عظیم هوش مصنوعی مانع از همکاری رقبا برای ایمن‌تر ساختن آن می‌شود. از دیدگاه منتقدان آنتروپیک، این اتفاق همچنین غروری ذاتی را در قلب این شرکت آشکار کرد. شرکت شاید معتقد بود که می‌تواند آب‌های متلاطم را در مسیر رسیدن به ماشین‌های فوق‌انسانی با خیال راحت طی کند؛ اما در عوض، قابلیت‌های عظیم نظارتی و جنگی جدیدی را به قلب یک دولت راست‌گرا وارد کرده و در لحظه‌ای که سعی کرد محدودیت‌هایی برای استفاده از آن‌ها تعیین کند، توسط رقبا زیر و رو شده بود.

نشانه‌هایی وجود دارد که آنتروپیک ممکن است از این آسیب جان سالم به در ببرد و شاید در این فرآیند حتی قوی‌تر نیز بشود. صبح روزی که هگست تلاش کرد حکم مرگ شرکتیِ آن‌ها را امضا کند، رشته‌ای از پیام‌های دلگرم‌کننده در پیاده‌روی بیرون دفتر مرکزی آنتروپیک در سان‌فرانسیسکو دیده می‌شد. یکی از آن‌ها با حروف درشت گچی نوشته شده بود: «شما به ما شجاعت می‌دهید.» در آن روز، برنامه آیفون کلاود با کنار زدن ChatGPT به رتبه اول اپ استور رسید. روزانه بیش از یک میلیون نفر در کلاود ثبت‌نام می‌کردند.

در همین حال، قرارداد نظامی خودِ OpenAI جرقه یک تحریم مردمی را زد. برای برخی در OpenAI، اعتماد از بین رفته بود. یک محقق ارشد OpenAI اعلام کرد که به آنتروپیک می‌پیوندد. رئیس تیم رباتیک OpenAI با استناد به قرارداد جدید دولتی استعفا داد. آلتمن، مدیرعامل OpenAI، نوشت که او در عجله برای بستن قرارداد با پنتاگون تا روز جمعه اشتباه کرده است. تا روز دوشنبه، آلتمن اذعان کرد که اقداماتش در جمعه گذشته «فرصت‌طلبانه» به نظر می‌رسیده است؛ OpenAI گفت که قرارداد خود را به گونه‌ای اصلاح کرده که به وضوح خطوط قرمزی که آنتروپیک می‌خواست را بپذیرد – اگرچه کارشناسان حقوقی می‌گویند بدون دیدن قرارداد کامل، امکان اطمینان از صحت این موضوع وجود ندارد.

در ۴ مارس، آنتروپیک نامه‌ای از وزارت دفاع دریافت کرد که تعیین این شرکت به عنوان خطر زنجیره تامین امنیت ملی را تایید می‌کرد. آنتروپیک گفت این نامه محدودتر از چیزی است که هگست مطرح کرده بود و پیمانکاران را تنها از استفاده از کلاود در قراردادهای دفاعی منع می‌کند. اما نامه دومی که خطاب به تام کاتن (Tom Cotton)، رئیس کمیته اطلاعات سنا نوشته شده و توسط تایم بررسی شده است، نشان می‌دهد که این وزارتخانه به قانون جداگانه‌ای استناد کرده است؛ قانونی که به سازمان‌های فراتر از پنتاگون قدرت می‌دهد تا آنتروپیک را از قراردادها و زنجیره‌های تامین خود منع کنند. برای اجرایی شدن، این امر نیازمند تایید مقامات ارشد پنتاگون است و به آنتروپیک ۳۰ روز فرصت برای پاسخگویی می‌دهد.

جنگ با آنتروپیک در کل این صنعت طنین‌انداز خواهد شد. دین بال (Dean Ball) که پیش از پیوستن به اتاق فکر «بنیاد نوآوری آمریکا»، پیش‌نویس برنامه اقدام هوش مصنوعی ترامپ را تهیه کرده بود، می‌گوید: «برخی افراد در دولت ترامپ احساس قدرت و رضایت از خود خواهند داشت. اما این امر ممکن است شرکت‌ها را از کار با پنتاگون منصرف کند یا آن‌ها را به خارج از کشور سوق دهد. در نهایت، این برای ایالات متحده به عنوان یک محیط کسب‌وکارهای باثبات خوب نیست و این همان چیزی است که ما به آن وابسته‌ایم.»

رهبران آنتروپیک معتقدند کلاود به ساخت سیستم‌های هوش مصنوعی چنان قدرتمندی کمک خواهد کرد که در تعیین موازنه قدرت جهانی نقشی قاطع و تعیین‌کننده ایفا می‌کنند. اگر چنین باشد، خطرات مبارزه این شرکت با پنتاگون ممکن است در مقایسه با آنچه در راه است، بسیار ناچیز به نظر برسد.

نوشته: هری بوث و بیلی پریگو

۱۱ مارس ۲۰۲۶

منبع: تایم