آیا می دانید چه کسی عکس های فرزند شما را در فضای مجازی منتشر می کند؟

اخیراً، گروهی از دختران نوجوان به کشف تکان دهنده ای دست یافتند که پسران در دبیرستان نیوجرسی خود تصاویری را که از خود در آن پست کرده بودند جمع آوری کردند. رسانه های اجتماعیسپس از آن تصاویر برای تولید برهنه های جعلی استفاده کرد.

پسرانی که تصاویر برهنه را در یک چت گروهی به اشتراک گذاشتند، ظاهراً این کار را با کمک یک ابزار دیجیتالی انجام دادند. هوش مصنوعی، بر اساس روزنامه وال استریت.

این حادثه نقض وحشتناک حریم خصوصی است. اما همچنین چگونگی چگونگی آن را نیز نشان می دهد به سرعت هوش مصنوعی اساساً انتظارات را تغییر می دهد در مورد اینکه چه اتفاقی ممکن است برای تصاویر آنلاین فرد بیفتد. معنای این امر برای کودکان و نوجوانان به ویژه هشیار کننده است.

آ گزارش اخیر منتشر شده توسط بنیاد واچ اینترنت دریافتند که هوش مصنوعی به طور فزاینده ای برای ایجاد مطالب واقعی سوء استفاده جنسی از کودکان استفاده می شود. برخی از این تصاویر از ابتدا و با کمک نرم افزار مجهز به هوش مصنوعی تولید می شوند. اما بخشی از این مطالب با تصاویر کودکان در دسترس عموم ساخته شده است که از اینترنت خراشیده شده و با استفاده از هوش مصنوعی دستکاری شده است.

والدینی که تیترهای این تحولات را دیده اند ممکن است دوبار شروع به فکر کردن کرده باشد در مورد اشتراک‌گذاری آزادانه تصویر فرزندشان در رسانه‌های اجتماعی، و شاید نوجوانان و نوجوانان را از ارسال عکس‌های کاملاً عمومی از خود منصرف کرده‌اند.

اما در مورد اینکه چگونه اشخاص ثالثی که به طور منظم با کودکان و نوجوانان درگیر هستند و به آنها خدمات می دهند، مانند اردوهای تابستانی، انجمن های والدین و مربیان، و تیم های ورزشی، به طور معمول از تصاویر آن کودکان برای بازاریابی آنلاین و رسانه های اجتماعی خود استفاده می کنند، صحبت کمی وجود دارد. آنها ممکن است در معافیت های قانونی درخواست کنند یا حتی نشان دهند که برای این منظور به اجازه والدین نیاز دارند. با این حال، برخی از اشخاص ثالث ممکن است اصلاً درخواست مجوز نکنند، به ویژه اگر کودکان در یک مکان عمومی مانند مدرسه یا رویداد ورزشی باشند.

به عنوان مثال، خطر حذف تصویر یک کودک از حساب اینستاگرام PTA مدرسه و استفاده برای ایجاد مطالب سوء استفاده جنسی از کودکان بسیار کم است، اما دیگر صفر نیست.

چگونه از تصویر کودک خود در اینترنت محافظت کنیم

جان پیزورو، فرمانده سابق گروه ویژه جرایم اینترنتی علیه کودکان نیوجرسی، به Mashable گفت که دستکاری تصاویر کودکانی که چند سال پیش به صورت آنلاین در دسترس بود، با نرم افزار موجود در آن زمان دشوار بود.

به گفته Pizzuro، مدیر عامل Raven، یک گروه مدافع و لابی متمرکز بر مبارزه با استثمار کودکان، اکنون یک بازیگر بد می‌تواند به‌طور یکپارچه پس‌زمینه تصویری را که در آن یک کودک نشان می‌دهد، به‌صورت دیجیتالی جدا کند، سپس جوانان را به راحتی روی پس‌زمینه دیگری قرار دهد.

پیزورو گفت که هر سازمانی که تصاویری از کودکان می گیرد و آنها را به صورت آنلاین منتشر می کند “نوعی مسئولیت دارد” و باید سیاست هایی برای مقابله با تهدید مواد سوء استفاده جنسی از کودکان ایجاد شده توسط هوش مصنوعی داشته باشد.

Pizzuro با اشاره به اینکه چگونه یک ابزار تولید تصویر هوش مصنوعی با هر تصویر منحصر به فردی که دریافت می‌کند، بهبود می‌یابد، می‌گوید: «هرچه تعداد تصاویر بیشتری وجود داشته باشد، بیشتر می‌توانید از برنامه‌ها برای تغییر چیزها استفاده کنید؛ این خطر است.

یکی از راه‌های ساده برای والدین برای از بین بردن این احتمال که تصویر فرزندشان در دستان اشتباه قرار گیرد این است که وقتی اشخاص ثالث اجازه عکس‌برداری و انتشار تصاویر را برای اهداف بازاریابی یا دیگر می‌خواهند، رد کنند. هنگامی که والدین فرزندان خود را برای اردو، ورزش و فعالیت های فوق برنامه ثبت نام می کنند، اغلب این مجوز در اسناد ثبت نام گنجانده می شود.

مدارس معمولاً فرم را در مدارک ثبت نام سالانه گنجانده اند. اگرچه ممکن است یافتن آن در چاپ دقیق کار دشواری باشد، اما والدین باید زمان بگذارند تا معافیت را بررسی کنند و تصمیمی عمدی در مورد واگذاری حقوق عکس فرزندان خود بگیرند.

اگر والدین نمی‌توانند آن زبان را پیدا کنند، می‌توانند از نهاد در مورد خط‌مشی‌ها و شیوه‌های اشتراک‌گذاری تصویر بپرسند و روشن کنند که اجازه ارسال تصویر فرزندشان به صورت آنلاین یا جای دیگر را نداده‌اند. اگر یکی از والدین قبلاً رضایت شخص ثالث را داده باشد، آنها می توانند در مورد لغو مجوز درخواست کنند.

پیزورو گفت که اگر والدین تصویری از فرزندشان در اینستاگرام را که بدون رضایت پست شده است کشف کنند، می توانند درخواست حذف ارسال کنید. همین امر برای فیس بوک. توییتر به کاربران اجازه نمی دهد تصاویر افراد خصوصی و والدین را بدون رضایت آنها پست کنند می تواند آن تخلفات را گزارش کند. والدین نیز می توانند گزارش نقض حریم خصوصی فرزندان خود را در TikTok درگیر می کنند.

چه کسی ممکن است از فرزند شما عکس بگیرد و به اشتراک بگذارد؟

Mashable از برخی از سازمان‌های برتر که با کودکان در ایالات متحده تعامل دارند – PTA ملی، پیشاهنگ دختران ایالات متحده، پیشاهنگان پسر آمریکا، انجمن کمپ آمریکایی، اتحاد ملی برای ورزش جوانان – درباره رویکرد آنها به هوش مصنوعی و تصاویر دیجیتالی کودکان نظر درخواست کرد. . . ما پاسخ های مختلفی دریافت کردیم.

سخنگوی Girl Scouts در ایمیلی به Mashable گفت که این سازمان در اوایل سال جاری یک “تیم چند کاره” را تشکیل داد که متشکل از کارشناسان حقوقی، فناوری و برنامه داخلی بود تا ضمن تشویق به استفاده مسئولانه از این فناوری‌ها، پیشرفت‌های هوش مصنوعی را بررسی و نظارت کنند.

در حال حاضر، هر گونه حضور در یک ویدیو یا تصویر آنلاین مرتبط با پیشاهنگی دختر، نیاز به اجازه والدین یا قیم هر دختر برای هر عضوی که در تصویر می‌بینید، دارد.

سخنگو نوشت: “ما متعهد هستیم که در خط مقدم این تحولات بمانیم تا از حفاظت از اعضای خود اطمینان حاصل کنیم.”

یکی از سخنگویان پیشاهنگان آمریکا این سازمان را به اشتراک گذاشت دستورالعمل های رسانه های اجتماعی، که خاطرنشان می کند که ویدیوها و تصاویر پیشاهنگان در پلتفرم های رسانه های اجتماعی باید از حریم خصوصی افراد پیشاهنگ محافظت کنند. در سطح محلی و ملی، BSA باید قبل از ارسال عکس‌های کودکان در رسانه‌های اجتماعی، اجازه والدین داشته باشد، و والدین می‌توانند در هر زمانی از این کار انصراف دهند. به طور کلی، سیاست BSA بر شناسایی یک کودک تا حد امکان مبهم در پست های رسانه های اجتماعی، مانند استفاده از حروف اول به جای نام کامل، تمرکز دارد.

اگر به نظر می رسد راه حل برای مشکل تصاویر به اشتراک گذاشته شده به صورت عمومی بسته شدن حساب های رسانه های اجتماعی است که تنها توسط افرادی که مجوز انجام این کار را دارند دنبال می کنند، دستورالعمل های BSA نشان می دهد که چرا این رویکرد پیچیده تر از آن چیزی است که به نظر می رسد.

آن‌ها کانال‌های رسانه‌های اجتماعی خصوصی را ممنوع می‌کنند تا مدیران بتوانند ارتباطات بین پیشاهنگان و رهبران بزرگسال و همچنین دیگر پیشاهنگان را نظارت کنند تا اطمینان حاصل شود که مبادلات نامناسبی وجود ندارد. شفافیت مزایای واضحی دارد، اما این سیاست نمونه ای از دشواری ایجاد تعادل بین نگرانی های حفظ حریم خصوصی و ایمنی است.

هایدی می ویلسون، مدیر ارشد روابط رسانه‌ای برای ملی PTA، در ایمیلی گفت که این غیرانتفاعی راهنمایی‌هایی را برای PTAهای محلی در مورد امضای والدین فرم‌های انتشار رسانه و رضایت ارائه می‌دهد، و اطمینان می‌دهد که والدین اجازه ارسال عکس‌های گرفته‌شده از فرزندانشان را داده‌اند، و گفتن به خانواده ها در مراسم که از بچه های دیگر عکس نگیرند یا پست نکنند. او گفت که PTA ملی در حال نظارت بر پیشرفت هوش مصنوعی است.

انجمن کمپ آمریکا به طور خاص به چندین درخواست ایمیل برای اظهار نظر در مورد دستورالعمل ها و بهترین شیوه های خود پاسخ نداد. سخنگوی اتحادیه ملی ورزش جوانان به درخواست های ایمیل برای اظهار نظر پاسخ نداد.

آینده تصاویر کودکان آنلاین

بارونس بیبان کیدرون، بنیانگذار و رئیس ۵ بنیاد حقوقیک سازمان غیرانتفاعی مستقر در لندن که برای حقوق کودکان آنلاین کار می کند، گفت که والدین باید محتوای سوء استفاده جنسی از کودکان دستکاری شده یا تولید شده توسط هوش مصنوعی را یک مشکل فعلی بدانند، نه یک تهدید وجودی که ممکن است در آینده رخ دهد.

کیدرون با یک تیم مجری مخفی کار می کند که مواد آزار جنسی کودکان تولید شده توسط هوش مصنوعی را بررسی می کند و بر اساس تصاویر آزار جنسی از کودکان با استفاده از چنین نرم افزارهایی که دیده بود، با ناراحتی به سرعت پیشرفت فناوری هوش مصنوعی حتی در عرض چند هفته اشاره کرد. تابستان و پاییز امسال

کیدرون، که همچنین یک فرد است، گفت: “هر بار، آنها واقع بینانه تر و بیشتر بودند.” عضو متقاطع مجلس اعیان بریتانیا و نقش مهمی در شکل‌دهی قوانین ایمنی و حریم خصوصی کودکان آنلاین در بریتانیا و در سطح جهان داشته است.

کیدرون گفت: «از آنجایی که شرکت‌ها هوش مصنوعی قوی‌تری بدون نرده‌های محافظ ایجاد می‌کنند، در بررسی ایمنی کودکان با شکست کامل مواجه شده است».

به عنوان مثال، در ایالات متحده، طبق گفته Pizzuro، هیچ یک از قوانین کیفری موجود، ایجاد مواد سوء استفاده جنسی از کودکان جعلی یا دستکاری شده را غیرقانونی یا مجازات نمی کند. در حالی که توزیع مطالب سوء استفاده جنسی از کودکان غیرقانونی است، این قانون به طور مشابه به طور خاص در مورد تصاویر تولید شده توسط هوش مصنوعی اعمال نمی شود. ریون در حال لابی کردن اعضای کنگره برای بستن این حفره ها است.

Pizzuro همچنین گفت که در دسترس بودن تصاویر کودکان به صورت آنلاین به شکارچیان کمک می کند حتی زمانی که آنها محتوای سوء استفاده جنسی با آنها ایجاد نمی کنند. درعوض، بازیگران بد و شکارچیان می توانند از هوش مصنوعی برای “یادگیری ماشینی کودک” استفاده کنند.

Pizzuro این فرآیند را به‌عنوان استفاده از هوش مصنوعی برای ایجاد حساب‌های رسانه‌های اجتماعی متقاعدکننده اما جعلی برای کودکانی که واقعاً وجود دارند، با تصویر آنها و همچنین جزئیات مربوط به اطلاعات شخصی و علایق آنها که به سرعت از اینترنت جمع‌آوری می‌شود، توصیف کرد. این حساب‌ها می‌توانند شخصاً توسط یک شکارچی برای پرورش سایر کودکان برای سوء استفاده یا اغوای جنسی آنلاین استفاده شوند.

اکنون با هوش مصنوعی مولد، [a predator] پیزورو می‌گوید که می‌تواند مردم را در مقیاس بزرگ پرورش دهد.» پیش از این، یک شکارچی باید قبل از ساختن یک حساب جعلی، اطلاعات آنلاین موجود در مورد یک کودک را به دقت جمع‌آوری و مطالعه کند.

به طور جداگانه، کیدرون به طرز تاریکی اشاره کرد که برخی از افرادی که با استفاده از هوش مصنوعی مطالب سوء استفاده جنسی از کودکان را ایجاد می کنند، ممکن است برای خانواده ای شناخته شده باشند. برای مثال، یک همسایه، دوست یا خویشاوند ممکن است تصویر یک کودک را از رسانه‌های اجتماعی یا وب‌سایت مدرسه حذف کند و محتوای سوءاستفاده جنسی از کودکان را «به سفارش» داشته باشد.

کیدرون گفت که در حالی که شرکت‌های فناوری ادعا می‌کنند نمی‌دانند چگونه مشکل هوش مصنوعی و حریم خصوصی کودکان را حل کنند، اما سرمایه‌گذاری قابل توجهی در شناسایی محتوایی انجام داده‌اند که حقوق مالکیت معنوی سایر شرکت‌ها را نقض می‌کند (ترانه‌ها و کلیپ‌های فیلمی که بدون اجازه ارسال شده‌اند) . .

در غیاب پاسخ قانونی واضح به تهدیداتی که هوش مصنوعی برای ایمنی کودکان ایجاد می کند، کیدرون گفت والدین می توانند با خودداری از ارسال هر گونه عکسی از فرزندان خود در فضای مجازی، چه در یک محیط خصوصی یا عمومی، یا حتی بایکوت، شرکت های رسانه های اجتماعی را تحت فشار قرار دهند. به طور کلی سایت ها او پیشنهاد کرد که چنین اعتراضاتی ممکن است صنعت فناوری را تشویق کند تا در رویکرد محدود خود برای افزایش مقررات تجدید نظر کند.

کیدرون می‌داند که چرا والدین ممکن است حساب‌های رسانه‌های اجتماعی خود را خصوصی کنند یا حتی برای محافظت از حریم خصوصی فرزندانشان قلب یا شکلک‌ها را روی صورتشان بگذارند، اما گفت که ترجیح می‌دهد سرمایه‌گذاری بیشتری را روی فناوری‌هایی ببیند که از خراشیدن تصاویر بدون اجازه جلوگیری می‌کنند. و راه حل های شرکتی

کیدرون نمی‌خواهد یک واقعیت دیستوپیایی را ببیند، که در آن هوش مصنوعی به ابزاری در دسترس برای شکارچیان تبدیل می‌شود و تصویر هیچ کودکی در فضای آنلاین امن نیست.

کیدرون گفت: “چه دنیای غم انگیزی است اگر ما هرگز اجازه نداشته باشیم عکس یک بچه را دوباره به اشتراک بگذاریم.”