این ابزار هنری بدون سانسور هوش مصنوعی می تواند فانتزی و کابوس ایجاد کند

این ابزار هنری بدون سانسور هوش مصنوعی می تواند فانتزی و کابوس ایجاد کند

مولدهای تصویر مانند Stable Diffusion می‌توانند چیزی شبیه عکس‌های واقعی یا تصاویر دست‌ساز ایجاد کنند که تقریباً هر چیزی را که یک فرد می‌تواند تصور کند را به تصویر می‌کشد.

الگوریتم‌ها یاد می‌گیرند که در فرآیندی که شامل اضافه کردن و حذف نویز تصادفی به یک تصویر است، تصاویر جدید را مطابق با یک فرمان متنی ارائه دهند.

از آنجایی که ابزارهایی مانند Stable Diffusion از تصاویر خراشیده شده از وب استفاده می‌کنند. داده‌های آموزشی اغلب شامل تصاویر مستهجن می‌شود که این نرم‌افزار را قادر می‌سازد تا تصاویر جدید جنسی صریح تولید کند.

نگرانی دیگر این است که از چنین ابزارهایی می‌توان برای ایجاد تصاویری استفاده کرد که به نظر می‌رسد یک شخص واقعی را در حال انجام کاری مخرب نشان می‌دهد – چیزی که ممکن است اطلاعات نادرست منتشر کند.

کیفیت تصاویر تولید شده توسط هوش مصنوعی در یک سال و نیم گذشته افزایش یافته است و با معرفی سیستمی به نام DALL-E توسط شرکت تحقیقاتی هوش مصنوعی در ژانویه 2021 شروع شد.

OpenAI. این مدل تولید تصاویر از پیام های متنی را رایج کرد و در آوریل 2022 توسط جانشین قدرتمندتری، DALL-E 2، اکنون به عنوان یک سرویس تجاری در دسترس است.از ابتدا، OpenAI افرادی را که می توانند به تصویر آن دسترسی داشته باشند محدود کرده است.

ژنراتورها، دسترسی را فقط از طریق یک اعلان فراهم می کنند که آنچه را که می توان درخواست کرد فیلتر می کند. همین امر در مورد یک سرویس رقیب به نام میدان سفر، که در ژوئیه سال جاری منتشر شد، با دسترسی گسترده به هنر ساخته شده با هوش مصنوعی کمک کرد.

Stable Diffusion اولین تولیدکننده هنر AI منبع باز نیست. مدت کوتاهی پس از انتشار DALL-E اصلی، یک توسعه دهنده کلونی به نام DALL-E Mini ساخت که در دسترس همه قرار گرفت و به سرعت پدیده میم سازی.

DALL-E Mini، که بعداً به Craiyon ، همچنان شامل نرده های محافظ مشابه نسخه های رسمی DALL-E است.

کلمنت دلانگ، مدیر عامل HuggingFace، شرکتی که میزبان بسیاری از هوش مصنوعی منبع باز است پروژه‌ها،

از جمله Stable Diffusion و Craiyon، می‌گویند که کنترل این فناوری تنها توسط چند شرکت بزرگ مشکل‌ساز خواهد بود.

«اگر به توسعه بلندمدت این فناوری نگاه کنید. فناوری، که آن را بازتر، مشارکتی تر و فراگیرتر می کند، در واقع از منظر ایمنی بهتر است.

و بهتر است افراد خارجی بتوانند مدل‌ها را برای مشکلاتی مانند نژاد، جنسیت یا تعصبات سنی ارزیابی کنند.

در ادامه مقاله این ابزار هنری بدون سانسور هوش مصنوعی می تواند فانتزی و کابوس ایجاد کند خواهید خواند:

او می‌گوید در مجموع، مزایای منبع‌باز بودن فناوری بیشتر از خطرات آن است.دلانگ اشاره می‌کند

که شرکت‌های رسانه‌های اجتماعی می‌توانند از Stable Diffusion برای ساخت ابزارهای خود برای شناسایی هوش مصنوعی استفاده کنند.

در نتیجه این مقاله می شود گفت

تصاویر مورد استفاده برای انتشار اطلاعات نادرست او می‌گوید که توسعه‌دهندگان

همچنین سیستمی برای افزودن واترمارک نامرئی به تصاویر ساخته‌شده با استفاده از Stable Diffusion ارائه کرده‌اند

پس از علاقه به انتشار ناپایدار، Simpson-Edin مدیر ناپایدار Diffusion Discord شد.

این سرور افراد را از ارسال انواع خاصی از محتوا، از جمله تصاویری

که می تواند به عنوان پورنوگرافی زیر سن قانونی تعبیر شود، منع می کند. او می‌گوید: «ما نمی‌توانیم کارهایی را که مردم روی دستگاه‌های خود انجام می‌دهند تعدیل کنیم، اما نسبت به آنچه که پست می‌شود بسیار سختگیر هستیم.

در کوتاه مدت، محدود کردن اثرات مخرب هنر AI ممکن است بیشتر به انسان بستگی داشته باشد تا ماشین.

***

منبع : https://www.wired.com