مدیر عامل OpenAI می گوید که عصر مدل های غول پیکر هوش مصنوعی به پایان رسیده است

قابلیت های خیره کننده ChatGPT، ربات چت استارتاپ OpenAI، موجی از علاقه و سرمایه گذاری جدید را در مصنوعی برانگیخته است. هوش. اما اواخر هفته گذشته، مدیر عامل OpenAI هشدار داد که استراتژی تحقیقاتی که ربات را به وجود آورده است، اجرا شده است. دقیقاً مشخص نیست که پیشرفت‌های آینده از کجا می‌آیند.

OpenAI ارائه کرده است. مجموعه‌ای از پیشرفت‌های چشمگیر در هوش مصنوعی که در سال‌های اخیر با استفاده از الگوریتم‌های یادگیری ماشینی موجود و مقیاس‌بندی آن‌ها تا اندازه‌ای که قبلاً تصور نمی‌شد، با زبان کار می‌کند. GPT-4، آخرین مورد از این پروژه ها، احتمالاً با استفاده از تریلیون ها کلمه متن و هزاران تراشه کامپیوتری قدرتمند آموزش داده شده است. این فرآیند بیش از 100 میلیون دلار هزینه داشت.

اما مدیر عامل شرکت، سم آلتمن، می‌گوید پیشرفت بیشتر با بزرگ‌تر کردن مدل‌ها حاصل نخواهد شد. او به حضار در رویدادی که اواخر هفته گذشته در MIT برگزار شد، گفت: «من فکر می‌کنم ما در پایان دورانی هستیم که این مدل‌های غول‌پیکر و غول‌پیکر خواهند بود. “ما آنها را از راه های دیگر بهتر خواهیم کرد.”

اعلام آلتمن نشان می دهد که یک چرخش غیرمنتظره در رقابت برای توسعه و استقرار الگوریتم های جدید هوش مصنوعی وجود دارد. از زمانی که OpenAI ChatGPT را در نوامبر راه اندازی کرد، مایکروسافت از فناوری زیربنایی برای استفاده کرده است. یک ربات چت به موتور جستجوی Bing خود و Google یک ربات چت رقیب به نام Bard راه اندازی کرد. بسیاری از مردم عجله کرده اند تا از نسل جدید ربات چت برای کمک به کارهای کاری یا شخصی استفاده کنند.

در همین حال، تعداد زیادی استارت آپ با بودجه خوب از جمله انتروپیک، AI21، Cohere و Character.AI، منابع عظیمی را برای ایجاد الگوریتم های بزرگتر در تلاش برای رسیدن به فناوری OpenAI پرتاب می کند. نسخه اولیه ChatGPT بر اساس یک نسخه کمی ارتقا یافته از GPT-3 بود، اما کاربران اکنون می توانند به نسخه ای که توسط GPT-4 توانمندتر ارائه می شود نیز دسترسی داشته باشند.

بیانیه آلتمن نشان می دهد که GPT-4 می‌تواند آخرین پیشرفت بزرگی باشد که از استراتژی OpenAI برای بزرگ‌تر کردن مدل‌ها و ارائه داده‌های بیشتر به آن‌ها سرچشمه می‌گیرد. او نگفت که چه نوع راهبردها یا تکنیک های پژوهشی ممکن است جای آن را بگیرند. در مقاله ای که GPT-4 را توصیف می کند، OpenAI می‌گوید برآوردهایش نشان می‌دهد که بازدهی کاهش‌یافته در افزایش اندازه مدل کاهش می‌یابد. آلتمن گفت همچنین محدودیت های فیزیکی برای تعداد مراکز داده ای که شرکت می تواند بسازد و با چه سرعتی می تواند آنها را بسازد وجود دارد.

نیک فراست، یکی از بنیانگذاران Cohere که قبلاً روی هوش مصنوعی در Google کار می کرد. می‌گوید احساس آلتمن مبنی بر اینکه بزرگ‌تر شدن به‌طور نامحدود کار نخواهد کرد، درست است. او همچنین معتقد است که پیشرفت در ترانسفورماتورها، نوع مدل یادگیری ماشینی در قلب GPT-4 و رقبای آن، فراتر از مقیاس‌بندی است. او می‌گوید: «راه‌های زیادی برای ساخت ترانسفورماتورها، بسیار بهتر و مفیدتر وجود دارد، و بسیاری از آنها شامل اضافه کردن پارامترها به مدل نیستند.» فراست می‌گوید که طراحی‌ها یا معماری‌های مدل‌های جدید هوش مصنوعی و تنظیم بیشتر بر اساس بازخورد انسانی، مسیرهای امیدوارکننده‌ای هستند که بسیاری از محققان در حال بررسی آن‌ها هستند.

هر نسخه از خانواده تاثیرگذار الگوریتم‌های زبان OpenAI شامل می‌شود. از یک شبکه عصبی مصنوعی، نرم‌افزاری که به‌طور ضعیفی از نحوه کار نورون‌ها با هم الهام گرفته شده است، که برای پیش‌بینی کلماتی که باید دنبال یک رشته متن باشند، آموزش داده شده است.