جو بایدن برای کنترل چت ربات های هوش مصنوعی از هکرها کمک می خواهد

ChatGPT امیدهای جدیدی را در مورد پتانسیل هوش مصنوعی و همچنین ترس های جدیدی ایجاد کرده است. امروز کاخ سفید به گروه نگرانی ملحق شد و اعلام کرد که از یک تمرین هک گسترده در کنفرانس امنیتی Defcon در تابستان امسال برای بررسی سیستم‌های هوش مصنوعی مولد شرکت‌هایی از جمله گوگل پشتیبانی می‌کند.

کاخ سفید. دفتر سیاست علم و فناوری همچنین گفت که 140 میلیون دلار برای راه اندازی هفت موسسه ملی تحقیقات هوش مصنوعی جدید که بر توسعه هوش مصنوعی اخلاقی و متحول کننده برای منافع عمومی متمرکز هستند، اختصاص داده می شود و تعداد کل را به 25 در سراسر کشور می رساند.

این اعلامیه ساعاتی قبل از جلسه ای درباره فرصت ها و خطرات ارائه شده توسط هوش مصنوعی بین کامالا هریس، معاون رئیس جمهور ایالات متحده و مدیران گوگل و مایکروسافت و همچنین استارتاپ های Anthropic و OpenAI منتشر شد که ChatGPT.

مداخله هوش مصنوعی کاخ سفید با اشتها انجام می شود برای تنظیم این فناوری در سرتاسر جهان در حال رشد است، که ناشی از هیاهو و سرمایه گذاری ناشی از ChatGPT است. در پارلمان اتحادیه اروپا، قانون‌گذاران در حال مذاکره درباره به‌روزرسانی‌های نهایی یک قانون هوش مصنوعی هستند که برخی از کاربردهای هوش مصنوعی، از جمله افزودن پوشش هوش مصنوعی مولد را محدود و حتی ممنوع خواهد کرد. قانونگذاران برزیلی همچنین در حال بررسی مقرراتی هستند که در جهت حمایت از حقوق بشر در عصر هوش مصنوعی باشد. پیش نویس مقررات مولد هوش مصنوعی ماه گذشته توسط دولت چین اعلام شد.

در واشنگتن، دی سی، هفته گذشته، سناتور دموکرات مایکل بنت لایحه ای را ارائه کرد که یک کارگروه هوش مصنوعی متمرکز بر محافظت از شهروندان ایجاد می کند. حریم خصوصی و حقوق مدنی همچنین هفته گذشته، چهار آژانس نظارتی ایالات متحده از جمله کمیسیون تجارت فدرال و وزارت دادگستری به طور مشترک متعهد شدند که از قوانین موجود برای حمایت از حقوق شهروندان آمریکایی در عصر هوش مصنوعی استفاده کنند. این هفته، دفتر سناتور دموکرات، ران وایدن، برنامه‌هایی را برای تلاش مجدد برای تصویب قانونی به نام قانون پاسخگویی الگوریتمی تأیید کرد که شرکت‌ها را ملزم می‌کند الگوریتم‌های خود را ارزیابی کرده و زمان استفاده از یک سیستم خودکار را افشا کنند.

آراتی پرابهاکار، مدیر دفتر سیاست علم و فناوری کاخ سفید، گفت در ماه مارس در رویدادی که توسط Axios برگزار شد، بررسی دقیق هوش مصنوعی توسط دولت برای سودمند بودن این فناوری ضروری است. پرابهاکار گفت: “اگر می خواهیم از این فرصت ها استفاده کنیم، باید با مبارزه با خطرات شروع کنیم.” تابستان امسال در کنفرانس امنیتی Defcon برگزار خواهد شد. از هزاران شرکت‌کننده، از جمله هکرها و کارشناسان سیاست‌گذاری خواسته می‌شود که مدل‌های تولیدی شرکت‌هایی از جمله Google، Nvidia و هوش مصنوعی پایداری مطابق با منشور حقوق هوش مصنوعی دولت بایدن در سال 2022 اعلام شد و موسسه ملی استاندارد و فناوری مدیریت ریسک Framework در اوایل سال جاری منتشر شد.

امتیازها تحت قالب capture-the-flag اعطا می‌شوند تا شرکت‌کنندگان تشویق شوند تا طیف گسترده‌ای از اشکالات یا رفتارهای نامطلوب را آزمایش کنند. سیستم های هوش مصنوعی این رویداد با مشورت مایکروسافت، غیرانتفاعی SeedAI، عنصر پایگاه آسیب‌پذیری AI، و Humane Intelligence، یک سازمان غیرانتفاعی ایجاد شده توسط رامن چاودری، دانشمند علوم اجتماعی و داده‌ها. او قبلا رهبری گروهی در Twitter که روی اخلاق و یادگیری ماشین کار می کند و میزبان جایزه تعصب بود که سوگیری را در برش خودکار عکس شبکه اجتماعی آشکار کرد.