دادستان های کل در تمام 50 ایالت ایالات متحده، به اضافه 4 قلمرو، نامه ای را امضا کردند که در آن از کنگره خواسته شد تا علیه مواد سوء استفاده جنسی از کودکان (CSAM) مبتنی بر هوش مصنوعی اقدام کند.

در این نامه آمده است: «در حالی که جرایم اینترنتی علیه کودکان در حال حاضر به طور فعال تحت پیگرد قانونی قرار می‌گیرند، ما نگران هستیم که هوش مصنوعی مرز جدیدی برای سوء استفاده ایجاد کند که چنین پیگردی را دشوارتر می‌کند».

در واقع، هوش مصنوعی ساختن تصاویر عمیق جعلی را برای بازیگران بد آسان‌تر از همیشه می‌کند، که به‌طور واقعی افراد را در سناریوهای نادرست به تصویر می‌کشد. گاهی اوقات، نتایج خوش خیم هستند، مانند زمانی که اینترنت فریب خورد و این باور را داشت که پاپ یک کت مد روز Balenciaga دارد. اما در بدترین موارد، همانطور که دادستان های کل اشاره می کنند، می توان از این فناوری برای تسهیل سوء استفاده استفاده کرد.

چه از کودکانی که در عکس‌های منبع برای دیپ‌فیک‌ها مورد آزار جسمی قرار گرفته‌اند یا نه، ایجاد و پخش تصاویر جنسی که کودکان واقعی را به تصویر می‌کشند، سلامت جسمی، روانی و عاطفی کودکان قربانی آن و همچنین والدین آنها را تهدید می‌کند. “، در این نامه آمده است.

امضاکنندگان از کنگره فشار می آورند تا کمیته ای برای تحقیق راه حل ها برای رسیدگی به خطرات CSAM تولید شده توسط هوش مصنوعی ایجاد کند، سپس قوانین موجود علیه CSAM را گسترش دهد تا به صراحت CSAM تولید شده توسط هوش مصنوعی را پوشش دهد.

جعل‌های عمیق هوش مصنوعی غیرمتعارف و استثمار جنسی در حال حاضر به صورت آنلاین گسترش یافته است، اما حمایت‌های قانونی کمی برای قربانیان این مطالب وجود دارد. نیویورک، کالیفرنیا، ویرجینیا و جورجیا قوانینی دارند که انتشار دیپ‌فک‌های هوش مصنوعی استثمارگر جنسی را ممنوع می‌کند و در سال ۲۰۱۹، تگزاس اولین ایالتی بود که استفاده از دیپ‌فک‌های هوش مصنوعی را برای تأثیرگذاری بر انتخابات سیاسی ممنوع کرد. اگرچه پلتفرم‌های اجتماعی اصلی این محتوا را ممنوع می‌کنند، اما ممکن است از بین برود. در ماه مارس، اپلیکیشنی که ادعا می‌کرد «هر چهره‌ای را عوض می‌کند» به ویدیوهای پیشنهادی، بیش از 230 آگهی را در فیس‌بوک، اینستاگرام و مسنجر اجرا کرد. متا تبلیغاتی را که توسط خبرنگار NBC News کت تنبرگ اطلاع داده شده بود حذف کرد.

در خارج از کشور، قانونگذاران اروپایی قصد دارند با سایر کشورها برای تصویب آیین‌نامه رفتار هوش مصنوعی همکاری کنند، اما مذاکرات هنوز در جریان است.