فیسبوک ناکارآمدی هوش مصنوعی اش را در تشخیص خشونت قبول ندارد - وبلاگ لاوان

به گزارش وبلاگ لاوان، وال استریت ژورنال در گزارشی تازه اعلام کرده که هوش مصنوعی فیسبوک به طور مداوم در حذف محتوای های خشونت بار پیروز عمل نمی کند. گای روزن نایب رئیس فیسبوک، روز یکشنبه با انتشار پستی نوشت که شیوع نفرت پراکنی و خشونت در این پلتفرم طی سه سال گذشته 50 درصد کاهش یافته و این قضیه که فناوری مورد استفاده ما برای مبارزه با محتواهای نفرت انگیز و خشونت بار کافی نیست، کاملا تعبیر غلطی است.

روزن بیان نمود: نه ما نه کاربران و نه تبلیغ کنندگان، هیچکس دوست ندارد که محتواهای نفرت آمیز و خشونت بار را در این پلتفرم ببیند و ما در مورد کار خود برای حذف آن بسیار مصمم خواهیم بود. آنچه شواهد و مدارک نشان می دهد این است که این اقدام نیاز به یک برنامه دقیق و بلندمدت دارد و تیم های ما به طور مداوم برای توسعه سیستم های تشخیص فیسبوک، شناسایی مسائل و ایجاد راه حل ها تلاش می کنند.

به نظر می رسد که این پست در پاسخ به مقاله روز یکشنبه وال استریت ژورنال بوده که این روزنامه در گزارشی ادعا کرده که کارمندان فیسبوک که وظیفه بررسی محتوای توهین آمیز و خشونت بار را بر روی این پلتفرم دارند، از توانایی سیستم های این شرکت برای انجام این کار اطمینان کافی ندارند. در گزارش این روزنامه آمده که اسناد داخلی نشان می دهد دو سال پیش، فیسبوک نیروی انسانی خود برای بررسی شکایات مربوط به سخنان نفرت انگیز و خشونت آمیز کاهش داد و به جای آن ها از هوش مصنوعی خود در این امر بهره برده است. این اقدام فیسبوک از عملکرد موثر و کاربردی هوش مصنوعی این شرکت در اجرای قوانین مربوط به محتواهای خشونت آمیز خبر داده بود.

تیمی از کارکنان فیسبوک در ماه مارس متوجه این امر شدند که سیستم های اتوماتیک این شرکت پست هایی را که بین 3 تا 5 درصد محتوای های نفرت پراکنی را در این پلتفرم اجتماعی انتشار می دهند، حذف می کنند. اما روزن گفت که تمرکز بر حذف چنین محتواهایی به تنهایی، روش مناسبی برای مبارزه با این محتواهای خشونت بار نیست. او می گوید فناوری حذف محتواهای نفرت انگیز تنها روشی است که فیسبوک برای مبارزه با آن ها استفاده می کند.

روزن معتقد است که تمرکز بر محتواهای نفرت انگیز که مردم در این پلتفرم می بینند و نحوه کاهش آن ها با استفاده از ابزارهای مختلف، اقدامی بسیار حیاتی خواهد بود. وی مدعی شده که به ازای هر 10 هزار نفر بازدید یک محتوا در فیسبوک، پنج نفر اقدام به استفاده از الفاظ رکیک و ناپسند می کنند. اما گزارشات اخیر نشان می دهند که برخی از محتواهای مهم می توانند در تشخیص هوش مصنوعی فیسبوک خلل ایجاد کنند، از جمله فیلم های تصادفات اتومبیل که افراد زخمی را نشان می دهند و تهدیدهای خشونت آمیز علیه بچه ها ترنس.

وال استریت ژورنال گزارش های بسیاری از مورد فیسبوک بر اساس اسناد داخلی ارائه شده از طریق افشاگر Frances Haugen تهیه کرده است. او چندی پیش اعتراف کرد که این شرکت از تاثیر منفی اینستاگرام بر نوجوانان آگاه است که فیسبوک بر اساس اسناد داخلی این گزارش را رد کرد. بد نیست بدانید که حدود یک ماه پیش، روزنامه وال استریت ژورنال بر اساس اطلاعات داخلی فیسبوک گزارشی منتشر کرد که در آن بیان شد که اینستاگرام آسیب های روحی حدود یک سوم از دختران نوجوان را افزایش می دهد. به نظر می رسد این گزارش بر مبنای پژوهشی داخلی نوشته شده که از طریق رییس بخش پژوهش های فیسبوک اجرا شده است. با این حال این مقام ارشد فیسبوک مدعی شده که توصیف وال استریت ژورنال از این اطلاعات درست نیست.

نشریه وال استریت ژورنال طی ماه های گذشته بر مبنای پژوهش های داخلی فیسبوک گزارش های مختلفی درباره این شبکه اجتماعی و زیرمجموعه های آن منتشر کرده است. در این گزارش نو به طور تعیین به تأثیرات اینستاگرام بر آسیب های روحی نوجوانان، به خصوص دختران نوجوان، پرداخته شده است. این روزنامه مدعی شده که فیسبوک به خوبی از تأثیرات منفی محصولاتش بر نوجوانان آگاهی دارد ولی این موضوع در اولویت های این شرکت قرار ندارد. رئیس بخش پژوهش های فیسبوک بسیاری از موضوعات مطرح شده در گزارش وال استریت ژورنال از جمله معتاد شدن نوجوانان به اینستاگرام را رد کرده و در عوض تمام تمرکز خود را بر اهمیت پایین این پژوهش معطوف کرده است. او می گوید این پژوهش فقط 40 نفر شرکت کننده داشته که برای پلتفرمی که بیش از 1 میلیارد نفر از آن استفاده می کنند، چنین تعداد نفراتی برای نظرسنجی و پژوهش بسیار پایین است.

متأسفانه نه فیسبوک، نه اینستاگرام و نه رئیس بخش پژوهش های فیسبوک هیچگونه داده ای که حرف های آن ها را ثابت کند، منتشر نکرده اند. بدون انتشار داده های موثق، رد کردن گزارش وال استریت ژورنال و پذیرفتن حرف های مدیر ارشد فیسبوک کار بسیار دشواری است. در ضمنً باید خاطرنشان کنیم این اولین باری نیست که به تأثیرات منفی و مخرب اینستاگرام بر سلامت روحی نوجوانان پرداخته می شود که به نظر می رسد این موضوع همچنان در اولویت های فیسبوک قرار ندارد.

منبع: TheVerge