تنها چیزی که نیاز است، یک عکس ساده از قربانی یا یک لینک به حساب کاربری اینستاگرام وی است. تصاویر تحریف شده ای که هوش مصنوعی می تواند از افراد تولید کند برخی مواقع کیفیتی دارند که اساسا نمی توان تفاوت آن ها با تصاویر ساختگی را متوجه شد. اینکه فردی که عکسش مورد سواستفاده قرار می گیرد، راضی باشد یا خیر نیز به هیچ عنوان مهم نیست.
فرارو- نشریه "اشپیگل" در گزارشی به اوج گیری یک اتفاق جنجالی و قابل‌تامل در کشورهای اروپایی پرداخته است. ماجرا از این قرار است که در کشورهایی نظیر آلمان و اسپانیا، گزارش های مختلف حاکی از اقدام افرادی هستند که عکس های دختران نوجوانان و جوان را هدفِ سواستفاده قرار می دهند و از آنها برای تولید عکس و ویدئوهای جعلی پورن و هرزه نگاری استفاده می کنند. اشپیگل در گزارش خود روایت های مختلفی را در گفتگو با قربانیان این موضوع نیز مطرح می سازد.
به گزارش فرارو به نقل از نشریه اشپیگل؛ درست از یک روز به بعد، دخترش تا حد زیادی تغییر کرد. او که هنوز دختری نوجوان بود، به صورت ناگهانی منزوی شد و اینطور به نظر می رسید که انگار از همه از جمله مادرش متنفر است. او دیگر نمی خواست کسی وی را در آغوش بگیرد. مادرش می گوید: "ما نگران بودیم که امکان دارد اتفاقی رخ داده باشد که او نمی خواهد در مورد آن صحبت کند".
چند ماه گذشت تا اینکه زن و همسرش فهمیدند ظاهرا دخترشان یک ویدئو با محتوای پورنوگرافی دیده که ظاهرا مادرش هم در آن حضور داشته است. "آنیتا هابگ" می گوید: "او به سادگی با وارد کردن نام من در گوگل با این ویدئو رو به رو شده است". او یک هنرپیشه سرشناس آلمانی است که هیچگاه در فیلم های پورن و محتوای هرزه نگاری حضور نداشته است.
آنیتا هابگ و شوهرش می گویند که دخترشان باور کرده بود که فیلم پورنِ مذکور واقعی است و مادرش را زمانی که جوان‌تر بوده نشان داده است. با این حال واقعیت چیز دیگری بود و این روایت حقیقت نداشت. ویدئوی مذکور توسط هوش مصنوعی ساخته شده بود و تصویر مادر را روی بدن فرد دیگری انداخته بود. در حقیقت، کل ویدئو تقلبی بود.
طی هفت سال اخیر، بسیار از سلبریتی ها و چهره های مشهور قربانی این اتفاق شده اند و از تصاویر آن ها در فیلم‌های جنسی سواستفاده شده است. از تیلور سوئیفت گرفته تا سیاستمداران برجسته آلمانی. برخی از این ویدئوها، هزاران بار دیده شده اند و پلتفرم هایی که این ویدئوها در آن ها قرار دارند سالانه میلیون ها بازدید می‌گیرند.
هابگ اصرار دارد که در جریان گزارش اشپیگل، به نام مستعار وی اشاره شود زیرا او هراس دارد که اگر نام واقعی‌اش ذکر شود، این مساله می تواند به بازدید بیشتر افکار عمومی از ویدئوهای تقلبیِ مذکور ختم شود. او می گوید: "واقعا فاجعه بار است که فردی تصویر من را روی یکچنین ویدئوی مشمئز‌کننده‌ای تدوین کند و این کار را خلاف تمایلم انجام دهد". او می گوید دخترش به خاطر این اتفاق دوره درمان و تراپی را سپری می کند با این حال اکنون وضعیت بهتری دارد. هابگ تاکید می کند "ما هیچوقت نمی توانیم زمان مفیدی را که از دست داده‌ایم بار دیگر بازیابیم. همه این ها به خاطر یک ویدئوی کوتاه و یک جستجوی اینترنتی است که دخترم انجام داد".
در سال‌های اخیر، پیشرفت هوش مصنوعی موجب شده تا جلوه‌هایی تازه‌ای از خشونت علیه زنان در قالب دیجیتالیِ آن آشکار و نمایان شود. تصاویری که با نرم افزار فتوشاپ دستکاری شده‌اند، از اوایل دهه ۲۰۰۰ میلادی قابل مشاهده بوده‌اند با این حال اکنون، هر فردی می‌تواند تصاویر جعلی و تا حد زیادی شبیه به واقعیت را تولید کند. اقدامی که تنها با چند کلیک موس، امکان تحقق می‌یابد. البته که دسترسی به یکچنین برنامه‌هایی نیز به هیچ عنوان محدود نشده است.
کارآفرینانِ بی‌وجدان برنامه هایی را منتشر کرده اند که می توانند تصویر عادی یک فرد را در عرض چند ثانیه به تصویر یک فرد برهنه و یا هرزه تبدیل کنند. حتی اگر چند یورو بیشتر بپردازید، تصویر فرد مذکور را می توان در قالب های مختلف جنسی هم مشاهده کرد.
تنها چیزی که نیاز است یک عکس ساده از قربانی یا یک لینک به حساب کاربری اینستاگرام وی است. تصاویر تحریف شده ای که هوش مصنوعی از افراد می تواند بدهد برخی مواقع کیفیتی دارند که اساسا نمی توان تفاوت آنها با تصاویر ساختگی را متوجه شد. اینکه فردی که عکسش مورد سواستفاده قرار می گیرد راضی باشد یا خیر نیز به هیچ عنوان مهم نیست.
البته که این جنس از سوءاستفاده در قالب های دیگری نیز نمایان می شود. به عنوان مثال در جریان کارزارهای انتخاباتی مرتبط با انتخابات ریاست جمهوری آمریکا، دونالد ترامپ تصاویر ساخته شده توسط هوش مصنوعی را در شبکه های اجتماعی پُست کرد که از طریق آن ها وی می خواست ثابت کند که هواداران تیلور سوئیفت از وی حمایت کرده اند و نه رقیبش از حزب دموکرات یعنی کامالا هریس. با این حال، یکچنین اقداماتی در حوزه سیاسی، کمتر از دیگر سواستفاده هایی که با استفاده از اهرم هوش مصنوعی می توان شاهد آن ها بود، قابل رصد هستند.
نظرسنجی‌های مختلف نشان می‌دهند که بیش از ۹۰ درصد از ویدئوهای تقلبی در اینترنت، ماهیت جنسی دارند. ۹۹ درصد از قربانیانِ یکچنین ویدئو‌هایی را زنان تشکیل می‌دهند. در واقع، بسیاری از برنامه‌های هوش مصنوعی که تصاویر برهنه افراد را تولید می‌کنند، نمی‌توانند حتی تصاویر آقایان را ویرایش و دستکاری کنند. یکی از نرم‌افزار‌ها در این حوزه، این شعار را در بحث تبلیغاتی خود مطرح می‌کند: "وقت خودتان را با بیرون بردن او تلف نکنید وقتی می‌توانید از این وب سایت عکس‌های برهنه اش رو داشته باشید! "
عوامل یکچنین پلتفرم‌هایی به طور مداوم تلاش می‌کنند تا هویت خود را پنهان کنند. بسیاری از طریق شرکت‌های پوششی کار خود را پیش می‌برند و یا فروش محصولات خود را از طریق پیام‌رسان تلگرام انجام می‌دهند. طی ماه‌های گذشته، نشریه اشپیگل توانسته برخی از مراکز احتمالی که پشت پرده تولید تصاویر برهنه و تقلبی از افراد هستند را شناسایی کند.
در گذر زمان، شبکه گسترده‌ای از نرم افزار‌های تولید تصاویر تقلبی از اروپای شرقی و روسیه، ظهور کرده‌اند. تحلیل‌های مختلف نشان می‌دهند که مساله تولید تصاویر و ویدئوهای تقلبی به معنای واقعی کلمه به یک چالش تبدیل شده است. اساسا به همین دلیل هم است که هر چه سریعتر باید کاری انجام شود.
قربانیانی که نشریه اشپیگل با آنها صحبت کرده تاکید دارند که راهی جز مقابله شخصی با سواستفاده از عکس‌های خود ندارند. شمار افرادی که از این نرم افزار‌های مخرب استفاده می‌کنند حقیقتا رو به فزونی است.
سال ۲۰۱۷، یک کاربر ناشناس اقدام به جعل تصاویر سلبریتی‌هایی نظیر اسکارلت جوهانسون در قالب‌های جنسی کرد و آنها را در یک شبکه اجتماعی پُست کرد. فناوری جعل تصویر مذکور به قدری بالا بود که شگفتی بسیاری را برانگیخت.
وقتی بازدید‌ها از تصاویر مذکور بالا رفت، مدیران شبکه اجتماعی که در آن این تصاویر منتشر شده بود، اقدام به حذف آنها کردند. اکنون آن فردی که اقدام به تولید تصاویر جعلی مذکور کرده بود، یک پلتفرم را با نام MrDeepFakes ایجاد کرده که میزبان بزرگترین مجموعه تولید ویدئوها و عکس‌های جنسی تقلبی است. ویدئو‌هایی که از فناوری هوش مصنوعی برای تولید آنها استفاده می‌شود. لوگوی این وب سایت چهره کارتونی خندان ترامپ است که ماسکی در دست دارد.
این روزها، بنا بر بررسی‌های اشپیگل، این وب سایت ماهانه ۶ میلیون بازدید می‌گیرد. البته که بررسی‌های صورت‌گرفته نشان می‌دهند که این وب سایت بیش از ۵۵ هزار ویدئو و تصویر تقلبی را نیز به نمایش می‌گذارد. ویدئوهای این وب سایت میلیون‌ها بازدید در طی هفت سال اخیر ثبت کرده‌اند. البته که تصاویر و ویدئوهای مذکور، خیلی کوتاه هم هستند. به طور میانگین، این قبیل ویدئوها بین چهار تا پنج و نیم دقیقه هستند.
اگر قرار باشد ویدئوهای جعلی مذکور را یکی پس از دیگری تماشا کنید، برای ۲۱۰ روز این امکان وجود خواهد داشت! تولید کنندگان این ویدئوها می‌توانند از آنها کسب درآمد داشته باشند و به درخواست‌های مشتریانی پاسخ دهند که حاضرند برای تماشای یک چیز پول بپردازند. پرداخت‌ها هم می‌تواند از طریق رمز ارز‌ها و به ویژه بیت‌کوین صورت گیرد. طی هفت سال اخیر، ۳۰۰ نفر از کاربران فعال بیش از دو هزار حواله را در قالب کیف‌های پول دیجیتال خود دریافت کرده‌اند. بررسی‌های اشپیگل نشان می‌دهد که ارزش کلی انتقال بیت کوین‌ها بیش از ۱۰۰ هزار یورو است.
نفرت از زنان و زن ستیزی را می‌توان در هر نقطه‌ای از وب سایت MrDeepFakes مشاهده کرد. به برخی زنان در این ویدئوها، "هرزه‌های کوچک" گفته می‌شود. سیاستمداران زن تا حد زیادی قربانی این قبیل ویدئوهای ساختگی هستند. در موردِ یکی از وزرای آلمانی، اشپیگل دریافته که یک شکایت جدی علیه پلتفرم MrDeepFakes ثبت شده است. این اتهام این بوده است: "بدنام سازی افراد در زندگی سیاسی آنها و نقض حقوق فردی از طریق تولید تصاویر جعلی". علی رغم پیگیری‌هایی که بعضا پلیس آلمان انجام داده، با این حال، هنوز این امکان فراهم نشده تا به صورت دقیق افرادی که در پشت پرده توسعه نرم افزار‌های تولید عکس‌های جعلی هستند، شناسایی شده و مجازات شوند.
*فعالانِ کارزار مقابله با تولید عکس های جعلی
در سپتامبر سال ۲۰۲۳، این نکته در شهر اسپانیایی آلمندرالخو آشکار شد که هر کسی می‌تواند قربانی بزرگ انتشار تصاویر جعلی از خود باشد. در این راستا، تصاویر جعلی از ۲۰ دختر در این شهر که با هوش مصنوعی ساخته شده بودند، در سپتامبر سال ۲۰۲۳ در پیام رسان واتساپ دست به دست می‌شد. قربانیان این ماجرا در بازه سنی میان ۱۱ تا ۱۷ سال قرار داشتند.
یکی از قربانیان، دخترِ ۱۴ ساله "مریم الادیب" بود. زنی که پزشک و متخصص زنان بود. یک پسر عکسی را که دختر الادیب در حساب کاربری خود در پیام رسان واتساپ قرار داده بود برداشت و از آن برای تولید عکس‌های جعلی از وی استفاده کرد. مریم الادیب می‌گوید: "اگر واقعا نمی‌دانستم دخترم وقتی برهنه است، چگونه است، حتما عکس‌هایی که از او منتشر شده بود را باور می‌کردم".
تنها اندکی پس از آنکه دخترش عکس‌های جعلی که از او ساخته شده بود را نشان مادرش داد، الادیب ویدئویی را از خود در اینستاگرامش منتشر کرد. او در صفحه اینستاگرامش مطالب و نکات آموزشی مختلفی ر ا برای مخاطبان خود ارائه می‌کند. ویدئوی وی سیلی از واکنش‌ها را در کشور اسپانیا علیه عاملان تولید عکس‌های جعلی به راه انداخت. الادیب می‌گوید: "این فاجعه بار است. من احساس نامیدی شدید دارم". الادیب در ویدئویش، افرادی که اقدام به تولید تصاویر جعلی از دخترش کرده بودند را مخاطب قرار می‌دهد: "آهای انسان ها، این کار متوقف کنید! تولید تصاویر جعلی از دیگران را پایان دهید و اگر تصویری می‌گیرید، آن را به اشتراک نگذارید. این یک حرکت کوچک نیست بلکه به معنای واقعی کلمه یک جنایت بزرگ است".
*مریم الادیب، متخصص زنان. فردی که دخترش قربانی سوءاستفاده از عکس هایش شده است
الادیب می گوید که دخترش به طور اتفاقی با پسرانی که از او تصویر جعلی ساخته بودند در خیابان مواجه شده و آن ها با تمسخر به وی گفته اند: "آیا می تواند عکس های بیشتری برای آنها ارسال کند!؟"
الادیب می گوید او از این مساله شوکه و به شدت عصبانی شده است. وی خاطرنشان می کند: "به عنوان یک دکتر، من می دانم که قربانیان باج گیری و قلدور مآبی سایبری و خشونت جنسی، در برخی مواقع تا آخر عمر خود را در عذاب سپری می کنند. برخی از آن ها حتی جرات نمی کنند که کار پیگیری حقوقی را انجام دهند و حتی خانه خود را ترک کنند". برخی گزارش ها حاکی از این هستند که از برخی از دخترانی که از آن ها تصاویر جعلی ساخته شده، هدفِ باج گیری و اخاذی نیز قرار گرفته اند.
الادیب ویدئوی ۱۰ دقیقه‌ای خود در صفحه اینستاگرامش را با یک تماس به مادران دیگر قربانیان به پایان می‌رساند. او از اراده جدی خود برای در ارتباط ماندن با دیگر قربانیان خبر داده است. الادیب به همراه مادران دیگر قربانیان یک گروه واتساپی تشکیل داده‌اند و شکایتی را نیز در اداره پلیس به ثبت رسانده‌اند.
الادیب می‌گوید که برخی از افسران پلیس به والدین قربانیان گفته‌اند که عاملان تولید تصاویر مذکور سعی داشته‌اند یک شوخی انجام دهند. الادیب تاکید دارند که پلیس صرفا زمانی مساله را واقعا جدی می‌گیرد که یک کارزار سراسری و پر صر و صدا در رسانه‌ها با محوریت مساله مذکور راه بیفتد. الادیب در قالب یک کارگروه با نهاد‌های دولتی اسپانیا در حال پیگیری تلاش‌هایی است تا با اقدامِ افراد سوءاستفاده‌گر در زمینه تولید عکس‌های جعلی از افراد مقابله کند.
الادیب تاکید می‌کند که آگاهی عمومی در مورد تبعات به شدت منفی تولید عکس‌های جعلی از دختران، بسیار محدود و کم است. وی تاکید می‌کند که ما در زمانه‌ای زندگی می‌کنیم که هرزه نگاران به سراغ کودکان و نوجوانان می‌آیند و از آنها سو استفاده می‌کنند.
