داده های تولید شده با هوش مصنوعی هوش مصنوعی را دیوانه می کند

محققان دانشگاه رایس و استنفورد یک مطالعه جالب را انجام داده اند که پدیده نگران کننده ای به نام اختلال اتوفاژی مدل (MAD) را کشف کرده اند. مقاله تحقیقاتی نشان می‌دهد که تغذیه داده‌های تولید شده توسط هوش مصنوعی به مدل‌های هوش مصنوعی منجر به بدتر شدن کیفیت خروجی می‌شود و پیامدهای مهمی را برای آموزش مدل‌ها

در آموزش مدل‌ها ایجاد می‌کند.

درک مدل اختلال اتوفاژی (MAD)

در این مطالعه پیشگامانه، دانشمندان تأثیرات مضر آموزش مدل‌های هوش مصنوعی را صرفاً بر محتوای مصنوعی روشن کردند. MAD به از دست دادن تدریجی غنا و تنوع در خروجی ها اشاره دارد زیرا مدل های مولد داده های تولید شده توسط هوش مصنوعی خود را مصرف می کنند.

تحقیق نسبت به روش گسترده استفاده از داده‌های آنلاین خراش‌شده هشدار می‌دهد، زیرا مدل‌ها تمایل دارند اطلاعات کمتر ارائه‌شده را نادیده بگیرند و بر داده‌های همگرا و کم‌تنوع تکیه کنند که در نتیجه کیفیت آن کاهش می‌یابد.

تاثیر داده های مصنوعی بر مدل های هوش مصنوعی

آموزش مکرر مدل‌های هوش مصنوعی در مورد محتوای مصنوعی در نهایت توانایی آنها را برای تولید خروجی‌های با کیفیت بالا مختل می‌کند. فقدان “داده های واقعی تازه”، که به جای داده های تولید شده توسط هوش مصنوعی، کار اصلی انسان را نشان می دهد، عامل مهمی در این کاهش است.

از آنجایی که داده‌های آموزشی مدل عمدتاً از داده‌های تولید شده با هوش مصنوعی تشکیل شده‌اند، اطلاعات کمتر رایج موجود در حاشیه مجموعه داده‌های خود را دریافت نمی‌کند که منجر به بدتر شدن عملکرد می‌شود.

پیامدها و چالش های دنیای واقعی

استفاده گسترده از مدل‌های هوش مصنوعی، به‌ویژه در شرکت‌های بزرگی مانند Google، اهمیت یافته‌های این مطالعه را تقویت می‌کند. تمرین رایج مدل‌های آموزشی با داده‌های آنلاین خرد شده در مقیاس بزرگ، چالش‌های مهمی را به همراه دارد.

با اشباع شدن اینترنت از محتوای مصنوعی، اطمینان از حفظ مجموعه داده‌های آموزشی بی‌تأثیر هوش مصنوعی دشوارتر می‌شود. این نگرانی هایی را در مورد کیفیت و ساختار وب باز ایجاد می کند.

کاهش اثرات منفی داده های تولید شده توسط هوش مصنوعی

اگرچه این مطالعه هنوز تحت بررسی همتایان قرار نگرفته است، محققان استراتژی‌های بالقوه‌ای را برای مقابله با تأثیر منفی اتکای هوش مصنوعی به داده‌های مصنوعی پیشنهاد می‌کنند. تنظیم وزن مدل می تواند کاهش کیفیت خروجی و تنوع را کاهش دهد.

با ترکیب بیشتر ورودی‌های انسانی و کاهش وابستگی به محتوای تولید شده توسط هوش مصنوعی، ممکن است بتوان عملکرد مدل‌های هوش مصنوعی را بهبود بخشید.

نقش ورودی انسان در سیستم‌های هوش مصنوعی

این یافته‌ها بحث‌هایی را در مورد کارآمدی سیستم‌های هوش مصنوعی بدون دخالت انسان ایجاد می‌کند. این مطالعه بر نقش ضروری خلاقیت و ورودی انسان تأکید می‌کند و نشان می‌دهد که سیستم‌های هوش مصنوعی به تنهایی چندان مؤثر نیستند. با این حال، این درک احساسات متفاوتی را برمی انگیزد.

در حالی که این امید را ایجاد می کند که هوش مصنوعی نمی تواند به طور کامل جایگزین انسان شود، همچنین نگرانی هایی را در مورد دستکاری بالقوه انسان برای تولید محتوا برای حفظ عملیات هوش مصنوعی ایجاد می کند. همچنین Chatbox AI: استفاده از ChatGPT در دسک‌تاپ و تلفن همراه را بخوانید.

نتیجه گیری

در نتیجه، این تحقیق کاهش کیفیت خروجی را هنگامی که مدل‌های هوش مصنوعی صرفاً بر روی داده‌های تولید شده توسط هوش مصنوعی آموزش می‌دهند، برجسته می‌کند. برای حفظ غنا و تنوع محتوای تولید شده توسط هوش مصنوعی، ترکیب داده های واقعی جدید بسیار مهم است.

درک و کاهش اختلال اتوفاژی مدل برای اطمینان از اینکه هوش مصنوعی همچنان به افزایش قابلیت‌های انسان ادامه می‌دهد و در عین حال یکپارچگی وب باز را حفظ می‌کند، ضروری است.