در هشدار ناگهانی، طرفداران فناوری برای مکث در ChatGPT تماس می گیرند

یک نامه باز امضا شده توسط صدها متخصص برجسته هوش مصنوعی، کارآفرینان فناوری، و دانشمندان، خواستار توقف در توسعه و آزمایش فناوری‌های هوش مصنوعی قدرتمندتر از مدل زبان OpenAI GPT-4 به طوری که خطرات ممکن است به درستی مورد مطالعه قرار گیرد. .

هشدار می‌دهد که مدل‌های زبانی مانند GPT-4 می‌توانند با انسان‌ها در طیف رو به رشدی از وظایف رقابت کنند و می‌توانند برای خودکارسازی مشاغل و انتشار اطلاعات نادرست استفاده شوند. این نامه همچنین دورنمای سیستم‌های هوش مصنوعی را مطرح می‌کند که می‌توانند جایگزین انسان‌ها و بازسازی تمدن شوند.

“ما از همه آزمایشگاه‌های هوش مصنوعی می‌خواهیم که بلافاصله آموزش سیستم‌های هوش مصنوعی قدرتمندتر از GPT-4 (از جمله GPT-5 که در حال حاضر در حال آموزش است) را به مدت حداقل 6 ماه متوقف کنند. از جمله یوشوا بنجیو، استاد دانشگاه مونترال که یکی از پیشگامان هوش مصنوعی مدرن محسوب می شود، مورخ یووال نوح هراری، بنیانگذار اسکایپ، جان تالین، و مدیر عامل توییتر ایلان ماسک.

این نامه که توسط موسسه آینده زندگی، سازمانی متمرکز بر خطرات فناوری برای بشریت، اضافه می‌کند که مکث باید «عمومی و قابل تأیید» باشد و همه کسانی را که بر روی مدل‌های هوش مصنوعی پیشرفته مانند GPT-4 کار می‌کنند، شامل شود. این نشان نمی‌دهد که چگونه می‌توان توقف توسعه را تأیید کرد، اما می‌افزاید که «اگر چنین توقفی نمی‌تواند به سرعت اعمال شود، دولت‌ها باید وارد عمل شوند و یک تعلیق وضع کنند»، چیزی که بعید به نظر می‌رسد ظرف شش ماه اتفاق بیفتد.

مایکروسافت و Google به درخواست‌ها برای اظهار نظر در مورد نامه پاسخ ندادند. امضاکنندگان ظاهراً شامل افرادی از شرکت‌های فناوری متعددی هستند که در حال ساخت مدل‌های زبان پیشرفته هستند، از جمله مایکروسافت و گوگل. هانا وونگ، سخنگوی OpenAI، می‌گوید که این شرکت پس از آموزش این مدل، بیش از شش ماه روی ایمنی و تراز GPT-4 کار کرده است. او اضافه می‌کند که OpenAI در حال حاضر GPT-5 را آموزش نمی‌دهد.

این نامه زمانی ارائه می‌شود که سیستم‌های هوش مصنوعی جهش‌های جسورانه و چشم‌گیرتری دارند. GPT-4 تنها دو هفته پیش معرفی شد، اما قابلیت‌های آن باعث ایجاد شور و شوق قابل توجهی شده است و مقدار قابل توجهی نگرانی. مدل زبان، که از طریق ChatGPT، چت ربات محبوب OpenAI در دسترس است، در بسیاری از تست‌های آکادمیک، و می‌تواند به‌درستی حل کند سوالات پیچیده که عموماً تصور می‌شود به هوش پیشرفته‌تری نسبت به سیستم‌های هوش مصنوعی که قبلاً نشان داده‌اند نیاز دارند. با این حال GPT-4 همچنین مقدار زیادی از اشتباهات بی اهمیت و منطقی. و مانند پیشینیان خود، گاهی اوقات اطلاعات نادرست را «توهم می‌کند»، به تعصبات ریشه‌دار اجتماعی خیانت می‌کند، و می‌تواند به گفتن چیزهای نفرت‌انگیز یا بالقوه مضر ترغیب شود.

بخشی از نگرانی بیان شده توسط امضاکنندگان نامه این است که OpenAI، مایکروسافت و گوگل، رقابتی سود محور را برای توسعه و عرضه مدل های جدید هوش مصنوعی در سریع ترین زمان ممکن آغاز کرده اند. نامه استدلال می‌کند که با چنین سرعتی، تحولات سریع‌تر از آن چیزی است که جامعه و تنظیم‌کننده‌ها بتوانند با آن کنار بیایند، اتفاق می‌افتد.