فیلترینگ شبکه‌های اجتماعی با کمک هوش مصنوعی

بر اساس یک مطالعه جدید، یک نگهبان دیجیتال با استفاده از هوش مصنوعی (AI) می‌تواند به حفظ امنیت کودکان در فضای آنلاین کمک کند.

به گزارش همشهری آنلاین و به نقل از روزنامه سان، هوش مصنوعی «مسئولانه» می‌تواند به کودکان کمک کند تا محتوای مضر آنلاین را نبینند و غارتگران را در این فرآیند دستگیر کند.

در واقع، فیلترینگ محتوا برای کودکان با کمک یک هوش مصنوعی صورت می‌گیرد که توانایی‌های بیشتری نسبت به انسان‌ها در این امور دارد.

تحقیقات جدید دانشگاه وارویک بریتانیا نشان می‌دهد که هوش مصنوعی می‌تواند برای چیزی فراتر از برنامه‌نویسی یا تنظیم برنامه‌های غذایی، مانند ChatGPT، مورد استفاده قرار گیرد.

فقط در یک مورد، برای انسان غیرممکن است که حجم عظیمی از محتوایی که در پلتفرم‌های رسانه‌های اجتماعی یافت می‌شود را به طور کامل فهرست‌بندی کند، اما یک ناظر هوش مصنوعی یا «روبات پلیس» می‌تواند تعداد زیادی زبان و تصاویر را بررسی کند. می‌تواند درباره هر یک از مضرترین حوزه‌هایی که کودکان و نوجوانان را تهدید می‌کند، «فرهنگ‌نامه» بسازد.

این شامل محتوای حاوی سخنان مشوق عداوت و تنفر، قلدری سایبری، اطلاعات مربوط به خودکشی، اختلالات خوردن، خشونت و سوء استفاده جنسی از کودکان است.

شوتا سینگ، استاد دانشکده بازرگانی وارویک، گفت: «اگر رگولاتور‌ها درک کنند که چه چیزی ممکن است - فناوری «هوشمند» که بین خطوط خوانده می‌شود و ارتباطات بدخیم را از بین می‌برد - می‌توانند خواستار حضور آن در قوانینی باشند که به دنبال تصویبش هستند.»

او گفت: «قانونگذاران نیاز به درک بهتری از فناوری دارند که به دنبال آن هستند.»

محققان دریافتند که یک سیستم هوش مصنوعی که از الگوریتم‌های پردازش زبان طبیعی مانند ChatGPT استفاده می‌کند، اما برای درک بهتر زبان عامیانه و صحبت‌های اینترنتی برنامه‌ریزی شده است، می‌تواند چیز‌هایی مانند انسان را تشخیص دهد.

هوش مصنوعی می‌تواند زمینه برخی نظرات، تفاوت‌های ظریف گفتار و روابط اجتماعی بین افراد را درک کند که این موضوع نیز در سن آن‌ها تاثیرگذار است.