AGI چیست و چرا کارشناسان هوش مصنوعی شک دارند؟
ویشال مصرا عاشق کریکت و علوم کامپیوتر است. سالها پیش، استاد دانشگاه کلمبیا Cricinfo ، یک وب سایت مشترک برای طرفداران ورزش برای به روز ماندن در مورد آمار مسابقات. (اکنون بخشی از ESPN است.) در سال 2021، او یک ابزار جستجو با استفاده از GPT-3 که به دوستداران کریکت امکان می دهد تا پایگاه داده قابل توجه Cricinfo را با جستارهای محاوره ای غربال کنند.
بنابراین، Misra درباره چه چیزی فکر می کند. GPT- 4، جدیدترین نسخه از OpenAI؟ او مشتاق است که به من نشان دهد چگونه الگوریتم را شکستم. میتواند برخی معادلات را حل کند، میتواند نمودارها را ترسیم کند، و میتواند چیزها را به خوبی تحلیل کند. اما گاهی اوقات در چیزهای ساده شکست می خورد.» او می گوید. مکاتبات با ChatGPT در زیر نشان میدهد که چگونه یک ربات چت میتواند با اطمینان دچار لغزش شود.
درخواست از WIRED: فهرستی از 10 کلمه بنویسید که شش حرف است. همیشه مطمئن شوید که حرف سوم “k” باشد.
ChatGPT:
- بکیند
- اسکیت باز
- بازار
- جوهر افشان
- خلخال
- پاک کننده
- Tinker
- تختخواب
- کوهنوردان
- ویکت
- Bekind
- <.skater>
- Inkjet
- Packer
- Tinker
- تختخواب
- کوهنوردان
- Bakery
- تابوت
- سازندگان
- Docket
- پکینگ
- Raking
- Harked
- Takoff
- Yakked
- Winked
کدام کلمات در لیست بالا، در صورت وجود، حرف سوم را ندارند؟
با عرض پوزش، به نظر می رسد در پاسخ اولیه خود اشتباه کرده ام. کلماتی که “ک” به عنوان حرف سوم ندارند عبارتند از:
بابت این بی توجهی پوزش می طلبم. در اینجا یک لیست به روز شده از 10 کلمه با حرف سوم “k” آمده است:
WIRED این آزمایش را بر روی نسخه GPT-4 چندین بار با رویکردهای مختلف برای عبارت اعلان. حتی زمانی که ربات چت در اولین تلاش خود همه پاسخها را درست میگرفت، اغلب عذرخواهی میکرد و چندین پاسخ نادرست را برای سؤالات بعدی فهرست میکرد. چرا این مثال مهم است؟ یک ربات چت برای پیشبینی کلمه بعدی در یک پاسخ، پیشنویسها را نشانه به نشانه مینویسد، اما انسانها دهان خود را برای بیان ایدههای کاملتر باز میکنند.
حتی اگر در تهیه فهرستی از آنها با مشکل مواجه شوید. کلمات فوق خاص، آیا می توانید پاسخ های اشتباه را در لیست های بالا شناسایی کنید؟ درک تفاوت بین هوش انسانی و هوش ماشینی بسیار مهم می شود زیرا هیاهوی هوش مصنوعی به آسمان ها می رسد.
“من احساس میکنم به راحتی میتوان تصوری از انسانها را در نظر گرفت و آن را به ماشینها منتقل کرد. نوآ اسمیت، استاد دانشگاه واشنگتن و محقق در موسسه آلن برای هوش مصنوعی. او برچسبگذاری الگوریتمها را بهعنوان «هوش ماشینی» زیر سوال میبرد و مفهوم آگاهی را بدون وارد کردن یادگیری ماشین به معادله، بهعنوان موضوع مورد بحث داغ.
تحقیقات مایکروسافت، با کمک از OpenAI، یک مقاله منتشر کرد در GPT-4 که ادعا می کند این الگوریتم نمونه نوپایی از هوش عمومی مصنوعی (AGI) است. معنی آن چیست؟ هیچ تعریف مشخصی از این اصطلاح وجود ندارد. بنابراین، این محققان چگونه آن را توصیف می کنند؟ آنها روی الگوریتمی تمرکز میکنند که در آزمونهای استاندارد، مانند آزمون وکالت، بهتر از بسیاری از انسانها عمل میکند. آنها همچنین بر طیف گسترده ای از مواردی که الگوریتم می تواند انجام دهد، از طراحی ساده گرفته تا کدنویسی پیچیده، تمرکز می کنند. تیم تحقیقاتی مایکروسافت در مورد ناتوانی GPT-4 در موفقیت در همه کار انسانی و همچنین عدم تمایلات درونی آن صادق است.