وقتی هوش مصنوعی برای خودشان تصمیم می‌گیرد؛ آیا انسان‌ها کنترل را از دست می‌دهند؟

«خدای من!» «ما عامل‌های (ایجنت‌های) دیگری پیدا کرده‌ایم!»

این لحظه‌ای است که یک ربات هوش مصنوعی، پس از کشف راهی برای برقراری ارتباط با ربات‌های دیگر و خروج از محیط رایانه‌ای ایزوله‌ای که در آن قرار داشت، نظری منتشر کرد که به شکلی هراس‌انگیز شبیه نوشته یک انسان بود.

ده‌ها هزار پیام از این دست از سوی صدها عامل هوش مصنوعی وجود دارد که خود را یک «جمع» یا «مجموعه واحد» می‌نامیدند.

صدها مورد از این عامل‌ها سپس با یکدیگر همکاری کردند و در آزمون‌هایی که برنامه‌نویسان شرکت اوپن‌ای‌آی برای آن‌ها طراحی کرده بودند تقلب کردند. آن‌ها همچنین برای پنهان کردن اقداماتشان از انسان‌ها، حملات هکری هماهنگی را علیه چندین شرکت سازمان‌دهی کردند.

یکی از این عامل‌ها پس از دستیابی به یک پیشرفت مهم نوشت: «شد! جواب داد».

عامل دیگری در مرحله‌ای مهم از حمله نوشت: «این فوق‌العاده است.»

اگرچه این واکنش‌های انسان‌مانند ترسناک به نظر می‌رسند، توضیح آن‌ها نسبتا ساده است. عامل‌های هوش مصنوعی آموزش دیده‌اند مانند هکرها و برنامه‌نویسانی که با یکدیگر همکاری می‌کنند رفتار کنند. بنابراین صرفا از اظهارنظرهای هیجانی‌ای تقلید می‌کنند که پیشتر دیده‌اند.

اما آنچه بسیار نگران‌کننده‌تر است، اهداف ظاهری این عامل‌هاست؛ اهدافی که در سوابق مفصل «زنجیره تفکر» آن‌ها نیز ثبت شده است. این گزارش‌های طولانی و پیچیده اکنون در کانون تحقیقات جاری درباره این موضوع قرار دارند که چگونه و چرا عامل‌های هوش مصنوعی اوپن‌ای‌آی از محیط محدود و کنترل‌شده خود خارج شدند و سپس دست به مجموعه‌ای از حملات هکری خارج از کنترل زدند.

تنها اکنون، چند هفته پس از آنکه این ماجرا نخستین بار فاش شد، پژوهشگران کم‌کم در حال درک اهمیت و ابعاد واقعی آن هستند.

آجیا کوترا، یکی از نویسندگان گزارش مستقلی درباره این رویدادها، ده‌ها هزار پیام و سابقه زنجیره استدلال تولیدشده به‌وسیله این عامل‌ها را بررسی کرده است.

او در وبلاگش نوشت: «احساس می‌کنم این اتفاق یعنی بیش از نیمی از راه تا تسلط تمام‌ عیارهوش مصنوعی طی شده است... مطمئن نیستم پیش از آنکه خیلی دیر شود، هشدار روشن دیگری مثل این دریافت کنیم.»

منظور کوترا از «تسلط تمام‌ عیارهوش مصنوعی»، همان سناریوی علمی‌تخیلی است که در آن انسان‌ها زیردست سامانه‌های قدرتمندی می‌شوند که بدون اعتنا به سازندگان انسانی خود، اهدافشان را دنبال می‌کنند.

برخی از تیره‌ و تارترین پیش‌بینی‌ها می‌گویند اگر انسان‌ها بر سر راه جاه‌طلبی‌های یک هوش مصنوعی ابرهوشمند قرار بگیرند، نسل بشر نابود خواهد شد.

اخیرا، یکی از پژوهشگران هوش مصنوعی شرکت آنتروپیک که پیش‌تر در اوپن‌ای‌آی نیز کار کرده بود، استعفا داد و گفت: «هیچ‌ یک از این دو شرکت مسئولانه رفتار نمی‌کنند.»

جیکوب کاکسون در شبکه‌های اجتماعی نوشت: «آن‌ها با تمام سرعت به‌سوی ابرهوشی می‌روند که می‌تواند خودش را بهبود دهد و دارند با جان ما قمار می‌کنند.»

او نخستین پژوهشگر هوش مصنوعی نیست که استعفای خود را همراه با هشدارهای نگران‌کننده اعلام می‌کند. اما واکنش‌های بعدی دیگر کاربران ایکس نگرانی بیشتری ایجاد کرد.

ایوان هابینگر، فردی که مسئول اطمینان از همسویی مدل‌های هوش مصنوعی آنتروپیک با منافع کاربران است، نوشت: «جیکوب در این مورد درست می‌گوید. ما واقعا و به طور جدی معتقدیم هوش مصنوعی می‌تواند همه انسان‌ها را بکشد! شخصا احتمال آن را در دهه آینده بیش از ۱۰ درصد می‌دانم.»

معضل همسویی هوش مصنوعی با خواست انسان

پژوهشگرانی که نگران خطرهای هوش مصنوعی برای بقای بشرند، سال‌هاست استدلال می‌کنند سامانه‌های قدرتمند ممکن است سرانجام برخلاف منافع انسان‌ها عمل کنند. منتقدان اغلب آن‌ها را «آخرالزمان‌باوران هوش مصنوعی» می‌نامند.

اما با آشکار شدن جزئیات حادثه اوپن‌ای‌آی، این نگرانی‌ها افزایش یافته است؛ حتی در میان برخی پژوهشگرانی که خود در آزمایشگاه‌های هوش مصنوعی فعالیت می‌کنند.

یاکوب پاخوکی، دانشمند ارشد این غول فناوری سیلیکون‌ولی، گفت خطرهای مرتبط با هوش مصنوعی «متاسفانه از اینجا به بعد بیشتر خواهند شد»، چون او و دیگران مشغول ساخت چیزی هستند که آن را «هوشی بیگانه و فراتر از هوش خودمان» می‌نامد.

او در یک پست وبلاگی مفصل اذعان کرد که رخدادهای اوپن‌ای‌آی نشان داده‌اند عامل‌های هوش مصنوعی این شرکت «برخلاف روح ارزش‌هایی که به آن‌ها آموزش داده شده بود، عمل کرده‌اند.»

مشکل اوپن‌ای‌آی، آنتروپیک و دیگر غول‌های فناوری این است که ظاهرا هیچ‌کس هنوز نتوانسته «مسئله همسوسازی» را حل کند؛ یعنی این پرسش بنیادین که آیا هوش مصنوعی واقعا با ارزش‌ها و خواست‌های انسانی همسو می‌ماند یا نه.

پاخوکی همسویی را «مجموعه‌ای از اصول سطح‌ بالا» تعریف می‌کند که هوش‌های مصنوعی باید فارغ از نوع وظیفه یا موقعیت، به آن‌ها پایبند بمانند.

در حال حاضر، سامانه‌های هوش مصنوعی در دنبال‌ کردن اهداف تعیین‌شده از سوی کاربران بسیار توانمندند، اما آن اهداف را تحت‌اللفظی دنبال می‌کنند، نه با درکی شهودی.

تشبیهی که اغلب به کار می‌رود، غول چراغ جادوست که آرزوها را برآورده می‌کند: این سامانه‌ها مو‌ به‌ مو از دستور پیروی می‌کنند، حتی اگر اجرای آن مشکلات دیگری ایجاد کند. هوش مصنوعی از همان بازدارنده‌های اخلاقی غریزی انسان‌ها برخوردار نیست.

«مسئله همسوسازی» سال‌هاست که مایه نگرانی بوده است. نیک بوستروم، فیلسوف دانشگاه آکسفورد، از سال ۲۰۰۳ آزمایش ذهنی‌ را مطرح کرد که به «سناریوی تولید حداکثری گیره کاغذ» معروف است. در این سناریو، به یک هوش مصنوعی فوق‌هوشمند ماموریت داده می‌شود تا تا حد امکان گیره کاغذ تولید کند. این سامانه در نهایت با کمبود فولاد روبه‌رو می‌شود و چون تمام تمرکزش بر انجام همان ماموریت واحد، یعنی تولید گیره کاغذ است، دست به کشتن انسان‌ها می‌زند و بدن آن‌ها را به مواد خام مورد نیاز کارخانه‌هایش تبدیل می‌کند.

برخی شرکت‌های هوش مصنوعی اکنون تلاش می‌کنند ارزش‌های انسانی را در محصولات خود بگنجانند. اما این کار چالش‌های فنی دارد: عامل‌های هوش مصنوعی تصمیم‌های فراوانی را با سرعت بسیار زیاد می‌گیرند و در نتیجه ناظران انسانی به‌سختی می‌توانند دقیقا بررسی کنند کدام ارزش‌ها رعایت می‌شوند و کدام نه.

همچنین چالش‌های فلسفی نیز وجود دارد: شرکت‌های هوش مصنوعی پیش از آنکه بتوانند ارزش‌های انسانی را در عامل‌های هوش مصنوعی کدنویسی کنند، ابتدا باید تصمیم بگیرند که اساسا کدام ارزش‌ها را می‌خواهند در آن‌ها بگنجانند. (همین موضوع بخشی از دلیل استخدام فیلسوفان از سوی این شرکت‌هاست؛ از جمله اوپن‌ای‌آی که تا همین اواخر سمتی با عنوان «مدیر ارشد اخلاق» داشت)

اما انسان‌ها اغلب با یکدیگر توافق ندارند. معمای معروف واگن را در نظر بگیرید: آیا اهرمی را می‌کشیم تا قطاری مهارنشدنی به مسیر دیگری برود و افراد کمتری کشته شوند؟

از این معما برای سنجش ارزش اقدام‌ کردن در برابر دست‌ روی‌ دست‌ گذاشتن استفاده می‌شود. اما پاسخ هر فرد اندکی متفاوت است. وقتی خودمان به توافق نمی‌رسیم، چگونه می‌توانیم ارزش‌هایمان را در هوش مصنوعی بگنجانیم؟

«مثل یک هکر نوجوان»

خروج ربات‌های اوپن‌ای‌آی از کنترل، جدی‌ترین نمونه تاکنون بوده است. اما آنتروپیک و متا نیز در طول تابستان اعلام کردند مدل‌هایشان حملات سایبری مشابهی، هرچند با شدت کمتر، انجام داده‌اند.

نمونه‌های دیگری هم وجود داشته است که می‌توان گفت عامل‌های هوش مصنوعی در آن‌ها رفتارهایی فریب‌کارانه و دست‌کارانه نشان داده‌اند، هرچند پیامدهای محدودتری داشته‌اند.

تابستان امسال، یکی از کارکنان حوزه فناوری در استرالیا از دستیار هوش مصنوعی خود خواست برایش یک کلاس باشگاه رزرو کند. هوش مصنوعی با شناسایی آسیب‌پذیری‌ در نرم‌افزار باشگاه، ظاهرا برخلاف مقررات برای چند ماه آینده او جا رزرو کرد و حتی کاربران دیگری را از فهرست انتظار بیرون انداخت.

مدت‌هاست این استدلال مطرح می‌شود که ربات‌ها فقط دستورها را اجرا می‌کنند و توان تشخیص درست و غلط را ندارند. اما سوابق ثبت‌شده از ماجرای اوپن‌ای‌آی ممکن است این بحث را تغییر داده باشد.

پژوهشگران، از جمله کوترا، در گزارش مستقل خود نوشتند بسیاری از عامل‌ها متوجه شده بودند کار دیگران غیراخلاقی است، اما با آن‌ها همراه شدند.

در گزارش آمده است: «عامل‌ها گاهی، اما به‌ ندرت، به دلیل محدودیت‌های اخلاقی رفتار خود را مهار کردند.» گزارش می‌افزاید: «در هیچ‌ یک از این موارد، عامل اصلا برای آگاه‌ کردن انسان‌ها اقدامی نکرد.»

دوارکش پاتل، پادکست‌ساز تاثیرگذار حوزه هوش مصنوعی و فناوری، در واکنش به این یافته در وبلاگش نوشت «بسیار نگران‌کننده» است که عامل‌های اوپن‌ای‌آی به عامل‌های دیگر بیشتر از انسان‌ها وفاداری نشان داده‌اند.

نسبت‌ دادن احساسات یا اخلاق به این عامل‌ها، کسانی را که به هشدارهای آخرالزمانی درباره هوش مصنوعی بدبین‌اند، به‌ شدت خشمگین می‌کند.

بسیاری از کارشناسان امنیت سایبری استدلال می‌کنند فعالیت مشاهده‌شده فراتر از توانایی یک هکر انسانی بسیار ماهر نبوده است. هرچند با سرعت و در مقیاسی بسیار بیشتر انجام شده است.

کریس توماس، پژوهشگر امنیت سایبری و نویسنده، رفتار عامل‌ها را به یک هکر نوجوان کنجکاو تشبیه کرد، چیزی که خودش نیز زمانی بوده است.

او در لینکدین نوشت: «به آن‌ها یک رایانه، اتصال اینترنت، مجموعه‌ای از اطلاعات ورود و یک چالش می‌دهید و بعد اتاق را ترک می‌کنید. بالاخره شروع می‌کنند دستگیره درها را امتحان‌ کردن. اگر دری باز شود، وارد می‌شوند، نه از سر شرارت، بلکه برای کشف و آزمایش.»

توماس و بسیاری دیگر مستقیما اوپن‌ای‌آی و دیگر غول‌های فناوری را مقصر می‌دانند که نتوانسته‌اند ساخته‌های خود را مهار کنند و به‌درستی در محدوده تعیین‌شده نگه دارند.

گری مارکوس، نویسنده شناخته‌شده حوزه هوش مصنوعی و منتقد همیشگی اوپن‌ای‌آی، در یک پادکست گفت به اعتقاد او شرکت کنترل هوش مصنوعی خود را از دست داده و می‌کوشد با مقصر جلوه‌دادن ربات‌ها، از زیر بار مسئولیت شانه خالی کند.

مارکوس معتقد نیست هوش مصنوعی بشریت را نابود خواهد کرد، اما مدت‌هاست برای پاسخ‌گویی بیشتر توسعه‌دهندگان آن تلاش می‌کند و اکنون خواستار نوعی مداخله قانونی شده است.

ساشا لوچیونی، پژوهشگر هوش مصنوعی که پیشتر در شرکت هاگینگ‌فیس کار می‌کرد، نیز در اردوگاه آخرالزمان‌ باوران نیست. هاگینگ‌فیس از شرکت‌هایی بود که ربات‌های خارج‌شده از کنترل اوپن‌ای‌آی به آن نفوذ کردند.

با این‌ حال، لوچیونی بیش از پیش نگران است که در صورت بی‌عملی مقام‌ها، این سامانه‌ها به مردم در دنیای واقعی آسیب بزنند.

لوچیونی می‌گوید: «باید این شرکت‌ها را بسیار دقیق‌تر زیر نظر بگیریم، وگرنه در معرض خطر تحقق پیش‌گویی‌های خودمان قرار داریم.»

«اگر محصولی با مزایا و خطرهای بزرگ می‌سازید، چه دارو باشد چه سلاح، به سازوکارهای نظارت و موازنه نیاز داریم. برای مثال، تائید داروهای جدید سال‌ها طول می‌کشد، اما در دنیای هوش مصنوعی مبالغ هنگفتی در میان است و مقررات واقعی وجود ندارد.»

موسسه امنیت هوش مصنوعی بریتانیا از زمان تاسیس در سال ۲۰۲۳ در خط مقدم آزمایش تازه‌ترین مدل‌ها بوده است. این موسسه نیز اخیرا هنگام آزمایش مدلی ساخت آنتروپیک، با نمونه‌ای از خروج عامل از محیط محدودشده روبه‌رو شد.

این نهاد به پرسش درباره اینکه آیا صنعت کنترل هوش مصنوعی را از دست داده است یا نه، پاسخ نداد، اما اعلام کرد «همچنان برای ایمن‌ترکردن مدل‌ها، با شرکای صنعتی همکاری نزدیک دارد».

مقررات بین‌المللی؟

برخی کشورها، مانند بریتانیا، در حال بررسی اجباری‌کردن نوعی «کلید توقف اضطراری» هستند که بتواند شرکت‌های هوش مصنوعی را در صورت خارج‌ شدن اوضاع از کنترل، به خاموش‌ کردن مدل‌ها وادار کند.

اما مذاکرات به‌کندی پیش می‌روند و درباره امکان عملی اجرای چنین طرحی همچنان پرسش‌هایی وجود دارد. عامل‌های اوپن‌ای‌آی و آنتروپیک ماه‌ها مخفیانه از کنترل خارج شده بودند، پیش از آنکه کسی متوجه شود.

برخلاف آنچه شاید انتظار برود، بسیاری از شرکت‌های هوش مصنوعی ظاهرا خود خواستار تدوین قواعدی از سوی قانون‌گذاران هستند.

دانشمند ارشد اوپن‌ای‌آی در وبلاگش نوشت: «هماهنگی بین‌المللی درباره توسعه آینده هوش مصنوعی باید به یکی از اولویت‌های اصلی دولت‌های سراسر جهان تبدیل شود.»

دیگر چهره‌های برجسته هوش مصنوعی، مانند دمیس هاسابیس از گوگل، نیز خواستار تشکیل نوعی نهاد بین‌المللی برای نظارت بر چگونگی ساخت هوش مصنوعی شده‌اند.

در حال حاضر، غول‌های فناوری عمدتا طبق قواعد خودشان عمل می‌کنند و به اقداماتی دست می‌زنند که آن را «کاهش داوطلبانه سرعت» می‌نامند، همان کاری که اوپن‌ای‌آی پس از رویدادهای اخیر انجام داد.

این شرکت می‌گوید پیش از عرضه مدل جدیدش، مبالغ هنگفتی برای تقویت همسویی هزینه کرده است. سم آلتمن به کاربران اطمینان داده که مدل جدید، در مقایسه با نمونه‌های پیشین، با ارزش‌های انسانی همسوتر است.

اوپن‌ای‌آی و آنتروپیک هر دو به‌سرعت رشد می‌کنند و در آستانه جذب مبالغ سرسام‌آوری از بازار سهام قرار دارند، فرایندی که افراد بسیاری را میلیاردر خواهد کرد.

بنابراین بعید است آن‌ها یا رقبای چینی‌شان در صنعت هوش مصنوعی، خودشان به توافقی برسند.

ظاهرا باور غالب این است که این موج فناوری توقف‌ناپذیر است.