پالایش هوشمند محتوای نامناسب در رسانه‌های صوت و تصویر فراگیر

 

امروزه با توجه به نشر حداکثری محتوای دیجیتال در فضای مجازی و تأثیرگذاری مثبت و منفیِ آن در همه‌یِ اقشار مختلف جامعه، دغدغه‌هایی در نهادهای مدیریتی و تصمیم‌گیرنده، نهادهای تنظیم‌گر، قانون‌گذاران و متخصصان حوزه‌ی رسانه ظهور و بروز یافته است.

یکی از مهمترینِ این دغدغه‌ها، افزایش دسترسی عموم مردم به محتوایی است که ارزیابی نشده و گاهاً می‌تواند مشکل‌آفرین باشد، نظیر مواجهه‌ی کودکان با محتواهای نامناسب که می‌تواند باعث بروز مشکلات اخلاقی در کودک و تخریب نهاد خانواده گردد.

در کشور ما با توجه به انگاره‌ها و ارزش‌های فرهنگی، سیاسی و اجتماعی؛ برهنگی و نیمه‌برهنگی، نفرت‌پراکنی، اهانت به مقدسات و ارزش‌ها، اطلاعات نادرست و ناقض شئونات اخلاقی، محتواهای محرّک گروه‌های ملّی، سیاسی و مذهبی، نمایش و نشر چهره‌های منفور، علائم و نمادهای موهن از جمله مصادیق بارز محتوای نامناسب محسوب می‌شوند که بایستی ابتدا کشف و سپس پالایش شوند.

در گذشته، مهم‌ترین روش ارزیابی محتوا در رسانه‌ها، گزارشات مردمی و ارزیابی توسط عوامل انسانی بوده است؛ اما امروزه به دلیل ظهور رسانه‌های کاربرپدید (UGC) و تولید و نشر چشم‌گیر محتوا توسط کاربران، مقوله‌ی پالایش محتوا توسط ارزیابان انسانی با مشکلات جدّی مواجه شده  به نحوی که ارزیابان انسانی توان بررسی این حجم از محتوا که به صورت لحظه‌ای بر بستر پلتفرم‌ها منتشر می‌شوند را ندارند.

 

با توجه به رشد و توسعه‌ی فنّاوری‌های مبتنی بر یادگیری ماشینی، سهم عمده‌ای از پالایش محتوا در غول‌های رسانه‌ای جهان توسط موتورهای هوشمند انجام می‌شود که دقت و سرعت‌ بسیار بالایی دارند.

طبق ادعای یوتیوب، در بازه زمانی سه ماهه آوریل تا ژوئن 2020، بیش از 11 میلیون محتوای ویدئویی از بستر این پلتفرم حذف شده است که سهم ارزیابی توسط موتورهای هوشمند حدود 95 درصد بوده است.

جدای از برخوردهای سلبی و بازدارنده‌ای که توسط نهادهای تنظیم‌گر انجام می‌شود، ساترا با طراحی یک اکوسیستم ایجابی در نظر دارد تا شرکت‌های توسعه دهنده‌ی موتورهای هوشمند را ارزیابی نماید و پس از اعطای گواهینامه‌ی معتبر، آن‌ها را به رسانه‌ها معرفی کند. این کار  هم اعتماد رسانه به این شرکت‌های خصوصی توسعه‌دهنده‌ی فنّاوری را افزایش می‌دهد و هم می‌تواند برای این شرکت‌های خصوصی یک فضای رقابتی ایجاد نماید.