Искусственный интеллект позволит Facebook выявлять язык вражды и опасный контент

Facebook запустил проект Learning from Videos на базе искусственного интеллекта (AI), задача которого – анализировать и изучать аудио, текст и визуальные представления в общедоступных записях пользователей. В рамках проекта анализируется видеоматериал на сотнях языков практически из каждой страны. 

Обучение по видео улучшит алгоритмы Facebook для выявления противоправного контента и соблюдения политики соцсети. Однако помешать в понимании контекста AI может помешать фоновый шум и многоязычие в одном ролике. 

Соцсеть уже использовала технологию, чтобы улучшить рекомендации в сервисе Instagram Reels (например, найти таких же «талантов», которые танцуют тот же танец под ту же музыку). Анализ текста позволит проще обнаружить hatespeech («язык вражды»). 

При анализе не нарушается конфиденциальность пользовательских данных. 

По словам разработчиков, сейчас проект на начальной стадии.