گری مارکوس قبلاً هوش مصنوعی را احمقانه می نامید – حالا او آن را خطرناک می نامد

در آن زمان—فقط ماه‌ها پیش—گفتگوی مارکوس فنی بود. اما اکنون که مدل های بزرگ زبان به یک پدیده جهانی تبدیل شده است، تمرکز او تغییر کرده است. نکته اصلی پیام جدید مارکوس این است که چت ربات های OpenAI، گوگل و سایرین موجودیت های خطرناکی هستند که قدرت آنها منجر به سونامی اطلاعات غلط، اشکالات امنیتی و “توهمات” افتراآمیز می شود که تهمت را خودکار می کند. به نظر می رسد این یک تناقض است. مارکوس سال‌ها مدعی شده بود که ادعاهای سازندگان هوش مصنوعی بیش از حد مورد ادعا قرار گرفته است. چرا هوش مصنوعی اکنون آنقدر مهیب است که جامعه اکنون باید آن را مهار کند؟

مارکوس، همیشه پرحرف، پاسخی دارد: «بله، من سال‌ها گفته‌ام که [LLM] در واقع زیبا هستند. احمق، و من هنوز هم به آن اعتقاد دارم. اما بین قدرت و هوش تفاوت وجود دارد. و ما به طور ناگهانی به آنها قدرت زیادی می دهیم.» در فوریه او متوجه شد که وضعیت به اندازه کافی هشدار دهنده است که باید بخش عمده ای از انرژی خود را صرف رسیدگی به این مشکل کند. در نهایت، او می‌گوید، می‌خواهد یک سازمان غیرانتفاعی را رهبری کند که وقف بهره‌برداری بیشتر و اجتناب از بدترین‌ها از هوش مصنوعی است.

مارکوس استدلال می‌کند که برای مقابله با تمام آسیب‌ها و تخریب‌های احتمالی، سیاست‌گذاران، دولت‌ها و قانون‌گذاران باید توسعه هوش مصنوعی را ترمز کنند. او همراه با ایلان ماسک و ده‌ها دانشمند دیگر، افراد سیاست‌مدار، و ناظران ساده دلهره، طوماری را امضا کرد که اکنون معروف شده است طلب یک مکث شش ماهه در آموزش LLMهای جدید. اما او اعتراف می‌کند که واقعاً فکر نمی‌کند چنین مکثی تفاوتی ایجاد کند و بیشتر برای همسو شدن با جامعه منتقدان هوش مصنوعی امضا کرده است. به جای وقفه آموزشی، او ترجیح می‌دهد در استقرار مدل‌های جدید یا تکرار مدل‌های فعلی مکث کند. این احتمالاً باید به شرکت‌ها تحمیل شود، زیرا رقابت شدید و تقریباً وجودی بین مایکروسافت و گوگل وجود دارد و اپل، متا، آمازون و استارت‌آپ‌های بی‌شمار می‌خواهند وارد این بازی شوند.

مارکوس ایده ای دارد که چه کسی می تواند اعمال را انجام دهد. او اخیراً اصرار داشته است که جهان فوراً به «یک آژانس بین‌المللی بین‌المللی، بی‌طرف و غیرانتفاعی برای هوش مصنوعی» نیاز دارد که با نام اختصاری مانند فریاد (Iaai!) نامیده می‌شود.

همانطور که او در یک نوشته‌ای که او هم‌نویسنده است در  Economist، چنین نهادی ممکن است مانند آژانس بین‌المللی انرژی اتمی کار کند که ممیزی و بازرسی را برای شناسایی برنامه‌های هسته‌ای نوپا انجام می‌دهد. احتمالاً این آژانس الگوریتم‌ها را کنترل می‌کند تا مطمئن شود که سوگیری یا اطلاعات نادرست را ترویج نمی‌کنند یا شبکه‌های برق را در اختیار نمی‌گیرند در حالی که ما به دنبال آن نیستیم. در حالی که تصور اینکه ایالات متحده، اروپا و چین همه با هم در این زمینه کار می کنند طولانی به نظر می رسد، ممکن است تهدید یک موجود بیگانه، اگر اطلاعات داخلی، گونه ما را سرنگون کند، ممکن است آنها را به اقدام در راستای منافع تیم انسان سوق دهد. هی، با آن تهدید جهانی دیگر، یعنی تغییرات آب و هوا کار کرد! اوه…

در هر صورت، بحث در مورد کنترل هوش مصنوعی با افزایش عمیق‌تر و عمیق‌تر این فناوری به زندگی ما بیشتر خواهد شد. بنابراین انتظار داشته باشید که تعداد بیشتری از مارکوس و تعدادی دیگر از سرهای سخنگو را ببینید. و این چیز بدی نیست. بحث در مورد اینکه چه باید با هوش مصنوعی انجام داد، سالم و ضروری است، حتی اگر فناوری در حال حرکت بدون توجه به اقداماتی که ما با زحمت و با تأخیر اتخاذ می کنیم، به خوبی توسعه یابد. صعود سریع ChatGPT به یک ابزار تجاری همه منظوره، دستگاه سرگرمی و محرمانه نشان می دهد که چه ترسناک باشد چه نه، ما این چیزها را می خواهیم. مانند هر پیشرفت عظیم تکنولوژیکی دیگر، به نظر می‌رسد که ابرهوش‌ها مزایای غیرقابل مقاومتی را برای ما به ارمغان می‌آورد، حتی اگر محل کار، مصرف فرهنگی ما و ناگزیر ما را تغییر دهد.