پورنوگرافی غیرتوافقی هوش مصنوعی همه ما را قربانی خواهد کرد: آیا قانون می‌تواند همگام شود؟

این مقاله با همکاری The 19th، یک خبرگزاری غیرانتفاعی که موضوعات جنسیت، سیاست و سیاست‌گذاری را پوشش می‌دهد، منتشر شده است. برای دریافت خبرنامه The 19th اینجا ثبت‌نام کنید.

\ سال گذشته بیش از دو دوجین دانش‌آموز در دبیرستان وستفیلد در نیوجرسی با وحشت متوجه شدند که تصاویر برهنه آن‌ها بین همکلاسی‌هایشان در حال انتشار است. به گفته مدرسه، برخی دانش‌آموزان از هوش مصنوعی (AI) برای ساخت تصاویر پورنوگرافی از دیگران از روی عکس‌های اصلی استفاده کرده بودند. و آن‌ها تنها دختران نوجوانی نیستند که قربانی عکس‌های برهنه جعلی می‌شوند: دانش‌آموزان در ایالت واشنگتن و کانادا نیز گزارش داده‌اند که با موقعیت‌های مشابهی روبرو شده‌اند، زیرا توانایی تغییر واقع‌گرایانه عکس‌ها از طریق وب‌سایت‌ها و اپلیکیشن‌ها به طور گسترده‌تری در دسترس قرار گرفته است.

\ هشدار فزاینده در مورد دیپ‌فیک‌ها—تصاویر یا ویدیوهای تولید شده توسط هوش مصنوعی—به طور کلی در ژانویه بیشتر تقویت شد، زمانی که یکی از آن‌ها شامل ابرستاره تیلور سویفت به سرعت در رسانه‌های اجتماعی پخش شد.

\ کری گلدبرگ، وکیلی که بیش از یک دهه است از قربانیان پورنوگرافی بدون رضایت—که معمولاً به عنوان پورنوگرافی انتقام‌جویانه شناخته می‌شود—نمایندگی می‌کند، گفت که تازگی‌ها از قربانیان تصاویر تولید شده توسط کامپیوتر خبر شنیده است.

\ "شرکت من احتمالاً حدود پنج سال است که قربانیان دیپ‌فیک را می‌بیند و اکثراً افراد مشهور بوده‌اند،" گلدبرگ گفت. "اکنون، کودکان در حال انجام این کار به کودکان دیگر برای بدجنسی هستند. احتمالاً واقعاً گزارش کمتری می‌شود زیرا قربانیان ممکن است ندانند که راه حل قانونی وجود دارد و در همه موارد کاملاً مشخص نیست که آیا وجود دارد یا خیر."

\ نهادهای حاکم در تلاش برای رسیدن به این موضوع هستند. در حدود یک سال گذشته، 10 ایالت قوانینی را برای جرم‌انگاری ساخت یا انتشار دیپ‌فیک‌ها به طور خاص تصویب کرده‌اند. این ایالت‌ها—از جمله کالیفرنیا، فلوریدا، جورجیا، هاوایی، ایلینوی، مینه‌سوتا، نیویورک، داکوتای جنوبی، تگزاس و ویرجینیا—مجازات‌هایی را از جرائم نقدی تا زندان مشخص کرده‌اند. ایندیانا احتمالاً به زودی با گسترش قانون فعلی خود در مورد پورنوگرافی بدون رضایت به فهرست رو به رشد بپیوندد.

\ نماینده ایندیانا شارون نگل، جمهوری‌خواه، نویسنده پیشنهاد گسترش بود. قانون موجود "پورنوگرافی انتقام‌جویانه" را به عنوان افشای یک تصویر صمیمی، مانند هر چیزی که رابطه جنسی، اندام تناسلی کشف شده، باسن یا سینه زن را نشان می‌دهد، بدون رضایت فرد نشان داده شده در تصویر تعریف می‌کند. لایحه پیشنهادی نگل از هر دو مجلس عبور کرده و اکنون در انتظار امضای فرماندار است.

\ نگل گفت که وقتی داستان یک معلم دبیرستانی را شنید که متوجه شد برخی از دانش‌آموزانش تصاویر دیپ‌فیک از او را منتشر کرده‌اند، انگیزه یافت تا کد جنایی ایندیانا را به‌روزرسانی کند. این امر برای زندگی شخصی معلم "به طور باورنکردنی ویرانگر" بود و نگل با دیدن اینکه مرتکبان نمی‌توانند تحت قانون فعلی تحت تعقیب قرار گیرند، شگفت‌زده شد.

\ "با آموزش من در درک فناوری‌ای که اکنون در دسترس است و خواندن درباره حادثه پس از حادثه صورت‌های افراد که به بدنی ساختگی که به طور باورنکردنی واقعی و واقع‌گرایانه به نظر می‌رسد، متصل شده‌اند، شروع شد،" نگل گفت. "این فقط ناراحت‌کننده است. به عنوان یک مادر و مادربزرگ و فکر کردن به اینکه چه اتفاقی ممکن است برای خانواده و خودم بیفتد—این تکان‌دهنده است. ما باید جلوتر از این نوع چیزها باشیم."

\ گلدبرگ، که دفتر وکالتش در جرائم جنسی تخصص دارد، گفت که پیش‌بینی می‌کند ایالت‌های بیشتری به گسترش قوانین موجود خود برای شامل شدن زبان هوش مصنوعی ادامه دهند.

\ "ده سال پیش، فقط سه ایالت قوانین پورنوگرافی انتقام‌جویانه یا سوءاستفاده جنسی مبتنی بر تصویر داشتند،" گلدبرگ گفت. "اکنون، 48 ایالت پورنوگرافی انتقام‌جویانه را غیرقانونی کرده‌اند و این واقعاً کاهش فوق‌العاده‌ای در پورنوگرافی انتقام‌جویانه ایجاد کرده است—نه به طور شگفت‌انگیز—درست همان‌طور که ما مدافعان گفته بودیم. کل افزایش دیپ‌فیک‌ها شکاف‌ها را به عنوان راهی جدید برای تحقیر جنسی کسی پر کرده است."

\ در سال 2023، بیش از 143000 ویدیوی جدید تولید شده توسط هوش مصنوعی به صورت آنلاین منتشر شد، به گفته آسوشیتدپرس. این یک جهش بزرگ نسبت به سال 2019 است، زمانی که وب‌سایت‌ها یا اپلیکیشن‌های "برهنه‌سازی" کمتر رایج بودند و هنوز نزدیک به 15000 از این ویدیوهای جعلی به صورت آنلاین وجود داشتند، به گفته گزارشی از Deeptrace Labs، یک شرکت اطلاعات تهدید بصری. حتی در آن زمان، آن ویدیوها—که 96 درصد آن‌ها پورنوگرافی بدون رضایت زنان بودند—بیش از 100 میلیون بازدید به دست آورده بودند.

\ گلدبرگ گفت که به نظر می‌رسد سیاست‌گذاران و عموم مردم به طور یکسان انگیزه بیشتری برای ممنوعیت تصاویر برهنه تولید شده توسط هوش مصنوعی دارند، به طور خاص به این دلیل که عملاً هرکسی می‌تواند قربانی باشد. همدلی بیشتری وجود دارد.

\ "با پورنوگرافی انتقام‌جویانه، در اولین موج بحث‌ها، همه قربانی را سرزنش می‌کردند و آن‌ها را به نوعی منحرف برای گرفتن تصویر یا احمق برای اشتراک‌گذاری آن با شخص دیگری معرفی می‌کردند،" گلدبرگ گفت. "با دیپ‌فیک‌ها، شما واقعاً نمی‌توانید قربانی را سرزنش کنید زیرا تنها کاری که آن‌ها انجام دادند داشتن بدن بود."

\ آماندا مانیامه، مشاور حقوق دیجیتال مستقر در آفریقای جنوبی برای Equality Now، یک سازمان بین‌المللی حقوق بشر با تمرکز بر کمک به زنان و دختران، گفت که عملاً هیچ حفاظتی برای قربانیان دیپ‌فیک در ایالات متحده وجود ندارد. مانیامه سیاست‌ها و قوانین در سراسر جهان را مطالعه می‌کند، تجزیه و تحلیل می‌کند که چه چیزی کار می‌کند و مشاوره حقوقی در مورد حقوق دیجیتال، به ویژه در مورد بهره‌برداری و سوءاستفاده جنسی تسهیل شده توسط فناوری ارائه می‌دهد.

\ "بزرگترین شکاف این است که ایالات متحده قانون فدرال ندارد،" مانیامه گفت. "چالش این است که موضوع ایالت به ایالت اداره می‌شود و به طور طبیعی، هیچ یکنواختی یا هماهنگی در مورد حفاظت‌ها وجود ندارد."

\ با این حال، در حال حاضر فشاری در کاپیتول هیل وجود دارد: گروهی دوحزبی از سناتورها در ژانویه قانون مختل کردن تصاویر جعلی صریح و ویرایش‌های بدون رضایت سال 2024 را معرفی کردند—که به عنوان قانون DEFIANCE نیز شناخته می‌شود. قانون پیشنهادی با هدف توقف انتشار محتوای صریح جنسی بدون رضایت است.

\ "هیچ‌کس—نه افراد مشهور و نه آمریکایی‌های عادی—نباید هرگز خود را در پورنوگرافی AI ببیند،" سناتور جمهوری‌خواه جاش هاولی، یکی از حامیان لایحه، در بیانیه‌ای گفت. "افراد بی‌گناه حق دارند از شهرت خود دفاع کنند و مرتکبان را در دادگاه پاسخگو نگه دارند." نماینده الکساندریا اوکازیو-کورتز لایحه همکاری در مجلس نمایندگان معرفی کرده است.

\ به گفته نظرسنجی جدید از Data for Progress، 85 درصد از رأی‌دهندگان محتمل در سراسر طیف سیاسی گفتند که از قانون پیشنهادی DEFIANCE حمایت می‌کنند—با 72 درصد زنان در حمایت قوی در مقایسه با 62 درصد مردان.

\ اما مردان جوان‌تر احتمال بیشتری دارند که با قانون DEFIANCE مخالفت کنند، با حدود یک از پنج مرد زیر 45 سال (22 درصد) که می‌گویند به شدت یا تا حدودی با قانونی که به افراد موضوع دیپ‌فیک‌های صریح بدون رضایت اجازه می‌دهد از سازنده شکایت کنند، مخالف هستند.

\ دانیل دایزروت، مدیر اجرایی Data for Progress، گفت این موضوع یکی از "تضادهای واضح‌تر" بین مردان و زنان جوان را نشان داد که او مدتی است دیده است.

\ "ما می‌توانیم با اطمینان بگوییم که زنان و مردان زیر 45 سال نظرات متفاوتی در مورد این سیاست دارند،" دایزروت گفت. "این موضوعی است که به طور نامتناسب بر زنان، به ویژه زنان جوان، که احتمال بیشتری دارند قربانی پورنوگرافی انتقام‌جویانه باشند، تأثیر می‌گذارد. و من فکر می‌کنم این واقعاً علت ریشه‌ای در اینجا است."

\ گلدبرگ گفت که ایجاد سیاست‌ها برای جرم‌انگاری بازیگران بد شروع خوبی است اما در نهایت ناکافی است. گام بعدی خوب، او گفت، انجام اقدام قانونی علیه توزیع‌کنندگان آنلاین، مانند App Store و Google Play، که محصولاتی را که عمدتاً برای فعالیت‌های جنایی استفاده می‌شوند، ارائه می‌دهند، خواهد بود. پلتفرم‌های رسانه‌های اجتماعی و اپلیکیشن‌های پیام‌رسانی فوری، که این تصاویر صریح در آن‌ها توزیع می‌شود، نیز باید پاسخگو باشند، گلدبرگ اضافه کرد.

\ بنیان‌گذاران #MyImageMyChoice، یک سازمان مردمی که برای کمک به قربانیان سوءاستفاده از تصویر صمیمی کار می‌کند، موافق بودند که شرکت‌های خصوصی درگیر در ساخت و توزیع این تصاویر باید کارهای بیشتری انجام دهند.

\ بنیان‌گذاران—سوفی کامپتون، روبن هملین و الیزابت وودوارد—اشاره کردند که موتورهای جستجو مانند گوگل بیشترین ترافیک کل وب را به سایت‌های پورنوگرافی دیپ‌فیک هدایت می‌کنند، در حالی که شرکت‌های کارت اعتباری پرداخت‌های آن‌ها را پردازش می‌کنند. ارائه‌دهندگان خدمات اینترنت به مردم اجازه دسترسی به آن‌ها را می‌دهند، در حالی که خدمات عمده مانند آمازون، کلودفلر و Github مایکروسافت آن‌ها را میزبانی می‌کنند. و سایت‌های رسانه‌های اجتماعی مانند X به محتوا اجازه می‌دهند در مقیاس بزرگ منتشر شود. گوگل سیاست خود را در سال 2015 تغییر داد و شروع به اجازه دادن به قربانیان برای ارسال درخواست حذف قطعات محتوای فردی از نتایج جستجو کرد و از آن زمان سیاست را به سوءاستفاده از دیپ‌فیک گسترش داده است. با این حال، شرکت به طور سیستماتیک سایت‌های خشونت جنسی مبتنی بر تصویر و سوءاستفاده از دیپ‌فیک را از فهرست خارج نمی‌کند.

\ "شرکت‌های فناوری قدرت مسدود کردن، حذف فهرست یا امتناع از ارائه خدمات به این سایت‌ها را دارند—سایت‌هایی که کل وجودشان بر نقض رضایت و کسب درآمد از تروما ساخته شده است،" کامپتون، هملین و وودوارد در بیانیه‌ای به The 19th گفتند. "اما آن‌ها انتخاب کرده‌اند که این کار را نکنند."

\ گلدبرگ به سرعتی که دیپ‌فیک‌های تیلور سویفت پخش شدند اشاره کرد. یک تصویر به اشتراک گذاشته شده در X، که قبلاً به عنوان توییتر شناخته می‌شد، 47 میلیون بار مشاهده شد قبل از اینکه حساب کاربری که آن را ارسال کرد معلق شود. تصاویر با وجود تلاش‌های شرکت‌های رسانه‌های اجتماعی برای حذف آن‌ها به انتشار خود ادامه دادند.

\ "تصاویر خشونت‌آمیز، زن‌ستیزانه تیلور سویفت، خونین و برهنه در یک بازی فوتبال Kansas City Chiefs، نماد مشکل است،" گلدبرگ گفت. "میزان آن توزیع، از جمله در سایت‌های واقعاً اصلی، پیامی به همه می‌فرستد که ایجاد این محتوا اشکالی ندارد. برای من، این یک لحظه واقعاً محوری و کاملاً ترسناک بود."

\ با توجه به ماهیت برجسته قربانی، این حادثه خشم آشکار و گسترده‌ای از سوی طرفداران سویفت برانگیخت و توجه عمومی را به این موضوع جلب کرد. گلدبرگ گفت که بررسی کرد تا ببیند آیا هر یک از توزیع‌کنندگان آنلاین محصولاتی را که ساخت دیپ‌فیک‌های صریح جنسی را آسان‌تر و ارزان‌تر می‌کند از فروشگاه‌های آنلاین خود حذف کرده‌اند—و خوشحال شد که دید آن‌ها این کار را کرده‌اند.

\ همان‌طور که سیاست‌گذاران و دادگاه‌های کشور به تلاش برای پاسخ دادن به فناوری در حال توسعه سریع و در دسترس‌تر ادامه می‌دهند، گلدبرگ گفت که مهم است که قانون‌گذاران به متخصصان و کسانی که مستقیماً با قربانیان کار می‌کنند، مانند وکلا، مددکاران اجتماعی و مدافعان، احترام بگذارند. قانون‌گذارانی که ایده‌های انتزاعی یا فناوری‌های به سرعت در حال پیشرفت را تنظیم می‌کنند در غیر این صورت می‌توانند "دستور العمل فاجعه" باشند، او اضافه کرد.

\ مانیامه همچنین بر اهمیت صحبت مستقیم با بازماندگان هنگام تصمیم‌گیری سیاست تأکید کرد، اما اضافه کرد که قانون‌گذاران همچنین باید به طور جامع‌تر درباره مشکل فکر کنند و خیلی درگیر فناوری خاص نشوند—با خطر همیشه عقب ماندن. به عنوان مثال، مانیامه گفت عموم مردم اکنون تازه شروع به درک خطرات ناشی از هوش مصنوعی و دیپ‌فیک‌ها کرده‌اند—چیزی که او در سال 2021 به نوشتن گزارشی درباره آن کمک کرد. با نگاه به آینده، مانیامه از قبل درباره متاورس—یک فضای واقعیت مجازی—فکر می‌کند، جایی که کاربران شروع به مقابله با نمونه‌هایی از تجاوز، آزار جنسی و سوءاستفاده می‌کنند.

\ "بسیاری از قوانین مربوط به سوءاستفاده جنسی مبتنی بر تصویر کمی قدیمی هستند زیرا به طور خاص درباره پورنوگرافی انتقام‌جویانه صحبت می‌کنند،" مانیامه گفت. "پورنوگرافی انتقام‌جویانه از نظر تاریخی بیشتر یک موضوع خشونت خانگی بوده است، به این معنی که یک شریک صمیمی تصویری از بهره‌برداری جنسی از شریک سابق یا موجود خود را به اشتراک می‌گذارد. این همیشه در مورد دیپ‌فیک‌ها صادق نیست، بنابراین این قوانین ممکن است حفاظت کافی را ارائه ندهند."

\ علاوه بر این، مانیامه استدلال کرد که بسیاری از این سیاست‌ها در گسترش تعریف "تصویر صمیمی" برای در نظر گرفتن پیشینه‌های فرهنگی یا مذهبی متنوع شکست می‌خورند. به عنوان مثال، برای برخی از زنان مسلمان، ممکن است ایجاد و انتشار تصاویر سر کشف شده آن‌ها بدون حجاب به همان اندازه نقض و تحقیرآمیز باشد.

\ وقتی صحبت از راه‌حل‌ها می‌شود، مانیامه به اقداماتی که می‌توان توسط سازندگان اپلیکیشن، تنظیم‌کنندگان پلتفرم و قانون‌گذاران انجام شود اشاره کرد.

\ در مرحله طراحی، اقدامات ایمنی بیشتری می‌تواند برای محدود کردن آسیب جاسازی شود. به عنوان مثال، مانیامه گفت برخی اپلیکیشن‌ها وجود دارند که می‌توانند عکس‌هایی از زنان بگیرند و به طور خودکار لباس‌های آن‌ها را حذف کنند در حالی که همان عملکرد روی عکس‌های مردان کار نمی‌کند. راه‌هایی در پشت این اپلیکیشن‌ها وجود دارد که حذف لباس از هر کسی، صرف نظر از جنسیتش، را سخت‌تر کند.

\ با این حال، هنگامی که دیپ‌فیک‌های شوم از قبل ایجاد و منتشر شده‌اند، مانیامه گفت پلتفرم‌های رسانه‌های اجتماعی و پیام‌رسانی باید مکانیسم‌های بهتری برای حذف محتوا پس از گزارش قربانیان در اختیار داشته باشند. بسیاری از اوقات، قربانیان فردی نادیده گرفته می‌شوند. مانیامه گفت که متوجه شده است این شرکت‌های بزرگ رسانه‌های اجتماعی احتمال بیشتری دارند که این دیپ‌فیک‌ها را در کشورهایی مانند استرالیا که تنظیم‌کنندگان شخص ثالث برای دفاع از طرف قربانیان دارند، حذف کنند.

\ "نیاز است که مکانیسم‌های نظارت و اجرا در هر راه‌حلی گنجانده شود،" مانیامه گفت. "یکی از چیزهایی که ما از بسیاری از بازماندگان می‌شنویم این است که آن‌ها فقط می‌خواهند تصویرشان حذف شود. حتی درباره انجام یک فرآیند قانونی نیست. آن‌ها فقط می‌خواهند آن محتوا از بین برود."

\ مانیامه گفت این درخواست خیلی بزرگی برای بسیاری از شرکت‌های فناوری و تنظیم‌کنندگان دولتی نیست زیرا بسیاری از قبل به سرعت به حذف عکس‌های نامناسب شامل کودکان پاسخ می‌دهند. فقط موضوع گسترش این نوع حفاظت‌ها به زنان است، او اضافه کرد.

\ "نگرانی من این است که عجله‌ای برای اجرای قوانین و سیاست‌های هوش مصنوعی بدون در نظر گرفتن برخی از علل ریشه‌ای این آسیب‌ها وجود داشته است. این یک مشکل لایه‌ای است و لایه‌های دیگر زیادی وجود دارند که باید با آن‌ها مقابله شود."

اعتبارات

• ماریل پادیلا برای The 19th

تصویرسازی

• رنا لی

ویرایش

• فلورا پیر برای The 19th

\ همچنین اینجا منتشر شده است

\ عکس توسط استیو جانسون در Unsplash