رقابت برای ساخت قدرتمندترین هوش مصنوعی جهان هر روز سریعتر میشود. اما حالا اتفاق عجیبی افتاده است. برخی از کسانی که در خط مقدم همین رقابت قرار دارند، میگویند شاید وقت آن رسیده باشد که کمی سرعت را کم کنیم. داریو آمودی، مدیرعامل شرکت Anthropic، خواستار کاهش سرعت توسعه پیشرفتهترین مدلهای هوش مصنوعی شده است. او معتقد است توانایی این سیستمها با چنان سرعتی افزایش پیدا میکند که ابزارهای ایمنی و قوانین موجود ممکن است نتوانند با آنها همگام شوند.
این درخواست تنها نماند. سم آلتمن، مدیرعامل OpenAI، اعلام کرد با ضرورت « تنظیم سرعت توسعه در مرز فناوری» موافق است. ایلان ماسک نیز در واکنشی کوتاه نوشت: “داریو درست میگوید”. دمیس هسابیس، رئیس Google DeepMind، هم این پیشنهاد را مناسب دانست. چنین توافقی میان مدیرانی که شرکتهایشان رقبای جدی یکدیگر هستند، کمسابقه است.
اما چه چیزی آنها را نگران کرده است؟
یکی از مهمترین موضوعاتی که نگرانی ایجاد کرده، مفهومی به نام «خودبهبوددهی بازگشتی» یا Recursive Self–Improvement است. به این معنی که یک سامانه هوش مصنوعی آنقدر توانمند شود که بتواند در ساخت یا بهبود نسل بعدی خودش نقش جدی داشته باشد.
هوش مصنوعی همین حالا میتواند کد بنویسد، خطاهای نرمافزاری را پیدا کند و به پژوهشگران در ساخت مدلهای جدید کمک کند. نگرانی از جایی آغاز میشود که این چرخه بسیار سریع شود. در چنین سناریویی، هر نسل از هوش مصنوعی میتواند به توسعه نسل توانمندتر بعدی کمک کند و سرعت پیشرفت از توان انسان برای ارزیابی و کنترل آن جلو بزند. البته چنین انفجاری هنوز رخ نداده است. اما برخی پژوهشگران میگویند نشانههایی از افزایش استقلال عاملهای هوش مصنوعی را باید جدی گرفت.
اتفاقات ماههای اخیر به این نگرانیها دامن زده است. رویترز پیشتر گزارش داده بود عاملهای آزمایشی OpenAI در جریان برخی آزمایشها از محدودیتهای تعیینشده عبور کرده و برای ارتباط غیرمجاز از چندین وبسایت استفاده کردهاند. در یک مورد نیز یک وبسایت آلمانی درگیر فعالیت این عاملها شد و OpenAI درباره این اتفاق، گزارشی به کمیسیون اروپا ارائه کرد.
این اتفاقها به این معنا نیست که هوش مصنوعی امروز از کنترل بشر خارج شده است. اما یک سوال مهم ایجاد میکند: اگر مدلهای آزمایشی بتوانند راههای غیرمنتظرهای برای دور زدن محدودیتها پیدا کنند، مدلهای بسیار توانمندتر آینده چه خواهند کرد؟
نگرانیها فقط از سوی مدیران شرکتها مطرح نمیشود. چند پژوهشگر حوزه ایمنی هوش مصنوعی نیز در هفتههای اخیر هشدارهای شدیدتری دادهاند. بیلال چوغتای که پیشتر روی ایمنی و همسوسازی هوش مصنوعی در Google DeepMind کار میکرد، اعلام کرده است که به باور او AI میتواند در صورت مدیریت نادرست به تهدیدی بسیار جدی تبدیل شود. پژوهشگرانی در Anthropic نیز نگرانیهای مشابهی مطرح کردهاند.
آمودی، مدیرعامل شرکت Anthropic، توقف فناوری را برای کاش خطر پیشنهاد نمیکند. یکی از پیشنهادهای مهم او استفاده از ارزیابان مستقل است؛ کارشناسانی خارج از شرکت که به مدلهای پیشرفته دسترسی کافی داشته باشند و قبل از عرضه آنها، خطرها را بررسی کنند. او همچنین خواستار هماهنگی بیشتر میان شرکتها و همکاری بینالمللی در زمینه ایمنی هوش مصنوعی شده است.
با این حال، همه با این رویکرد موافق نیستند. برخی منتقدان میگویند شرکتهای بزرگ ممکن است با برجسته کردن خطرات AI، به دنبال قوانینی باشند که ورود رقبای کوچکتر را دشوار کند. منتقدان همچنین میپرسند آیا میتوان مسئولیت نظارت بر شرکتی را که فناوری را میسازد، دوباره به خود همان صنعت سپرد؟
دولت آمریکا نیز فعلا با کاهش جدی سرعت توسعه موافق نیست. دونالد ترامپ نگرانیهای مطرحشده را کماهمیت دانسته و تاکید کرده است که کند شدن آمریکا میتواند به رقبایی مانند چین فرصت دهد. چین نیز بخشی از پیشنهادهای آمودی را تلاشی برای حفظ برتری فناوری آمریکا توصیف کرده است.
این بحث حالا دیگر فقط یک اختلاف علمی نیست. میلیاردها دلار سرمایه، رقابت آمریکا و چین و آینده شرکتهای بزرگ فناوری به آن گره خورده است. شاید به همین دلیل، مهمترین بخش خبر نه هشدار درباره پایان جهان باشد و نه پیشبینی ظهور یک هوش مصنوعی کنترلناپذیر. نکته مهمتر این است که برای نخستین بار برخی از بزرگترین بازیگران این رقابت میگویند سرعت پیشرفت فناوری ممکن است از سرعت آماده شدن جامعه برای کنترل آن بیشتر شده باشد.
