چاپ

چه خبر - استفاده اينستاگرام از هوش مصنوعي در فيلتر کردن کامنت ها

استفاده از شبکه هاي اجتماعي علاوه بر مزايايي که به همراه دارد، مي تواند معضلاتي را نيز براي برخي افراد به وجود آورد. يکي از اين معضلات مواجه شدن با رفتارها و کامنت هاي توهين آميز است. شرکت هايي که به وجود آورنده اين شبکه هاي اجتماعي هستند به طور پيوسته به دنبال راه هايي مي گردند تا با گفتار بد و توهين آميز برخي از کاربران برخورد کنند. حال اينستاگرام قصد دارد با استفاده از هوش مصنوعي به جنگ با اين مشکلات برود.

سال گذشته اينستاگرام ويژگي فيلتر نمودن کامنت ها را مطرح کرد. با استفاده از اين ويژگي کاربران مي توانند کلمات کليدي خاصي را تعيين نمايند به طوري که اگر در کامنت خاصي از افراد آن کلمه کليدي ديده شد، کامنت موردنظر فيلتر شود و ديگر در فيد کاربر نمايش داده نخواهد شد. اين ابزار کلماتي را که غالبا به عنوان کلمات نامناسب گزارش شده اند (often reported as inappropriate) حذف مي کند و به شما اجازه مي دهد تا مجموعه اي از کلمات مورد نظر خود را نيز تعريف نماييد.

اساسا مقابله کردن با کامنت هاي توهين آميز مي تواند کار طاقت فرسايي باشد. زيرا کاربران مي توانند با استفاده از روش هاي مختلف اين ويژگي اينستاگرام را دور بزنند.

از زماني که اينترنت به وجود آمد همواره ترول ها (اوباش اينترنتي) راه هايي براي عبور کردن از فيلترها پيدا کرده اند. به عنوان مثال آن ها سعي مي کنند تا کلمات توهين آميز را عمدا با غلط املايي بنويسند يا به طور کلي يک کلمه جديد خلق مي کنند.

اگرچه شما مي توانيد در اينستاگرام کلمه يا عبارت موردنظر خود را به مجموعه کلمات فيلتر شده اضافه کنيد. اما اينستاگرام تلاش دارد راهي بهتر به جز فيلتر کردن يک کلمه پيدا کند تا بتواند احساس امنيت بيشتري براي کاربران در اين محيط فراهم سازد.

ترول ها مي توانند بدون استفاده از کلمات توهين آميز خاصي کامنت هاي تندي بنويسند و فحاشي کنند.

اما فيلتر جديد اينستاگرام با استفاده هوش مصنوعي تلاش مي کند تا از به کارگيري اين شيوه ها نيز جلوگيري کند. اينستاگرام سعي مي کند تا با استفاده هوش مصنوعي کامنتي را که محتواي توهين آميز دارد درک کند و اجازه استفاده از آن را ندهد. حتي اگر در آن متن هيچ گونه فحاشي صورت نگرفته باشد و هيچ کلمه توهين آميزي ديده نشود، هوش مصنوعي اينستاگرام بار معنايي آن جمله را درک مي کند. اگرچه الگوريتم پياده سازي شده جديد اينستاگرام در حال حاضر تنها بر روي زبان انگليسي متمرکز است، اما انتظار مي رود که به زودي زبان هاي ديگر را نيز تحت پوشش قرار دهد.

منبع: click.ir