Проблема поддельных фотографий и видео стоит очень остро. Фейки создаются с пугающей достоверностью. Это позволяет легко дискредитировать известных личностей или ввести в заблуждение обывателей.
Фейсбук и команда университета штата Мичиган озаботились поисками решения проблемы. Не так давно они представили абсолютно новый метод для распознавания подделок. Уникальность технологии заключается в том, что можно не просто выявить фейк, а и точно установить: какая генеративная модель является его создателем.
Современные детекторы способны определить только те генеративные модели, которые были внесены в систему во время обучения. Таким образом, столкнувшись с новой неизвестной моделью, детектор оказывается бессилен.
Новая методика обратного инжиниринга FB-MSU проводит более глубокий анализ и получает гораздо больше сведений о генеративной модели в которой создана подделка. Более того, система способна выявлять и группировать подделки по общим признакам и отслеживать серии фейков. Благодаря этому модераторы социальной сети смогут эффективно устранять кампании дезинформации, направленные на дискредитацию.
Для повышения эффективности технологии команда университета прогнала подделки через сеть оценки отпечатков пальцев. Это позволит считать тонкие узоры и по ним определить систему, создавшую их.