Почему это важно: Deepfakes (Deepfake — конкатенация слов «глубинное обучение» (англ. Deep learning) и «подделка» (англ. Fake)[1], методика синтеза изображения, основанная на искусственном интеллекте https://ru.wikipedia.org/wiki/Deepfake) в последнее время стали горячей темой, из-за их потенциала для проведения сложных кампаний по дезинформации или дешивизна создания благодаря инструментам, которые легко доступны в Интернете. По мере совершенствования этих инструментов Twitter хочет иметь правильную политику, позволяющую людям получать удовольствие от этой технологии, а также удалять манипулируемый контент, который может быть вредным.
Как обычно в случае с Twitter, компания хочет разработать лучшую политику, но не совсем уверена, как это сделать, поэтому она просит отзывы пользователей. Один из пионеров фальсификации недавно сказал, что до «совершенно реальных» видеороликов осталось меньше года, поэтому компания пытается внедрить новые функции, которые могли бы помочь ей ориентироваться в этих опасных водах.
Социальный гигант хочет, чтобы пользователи пришли к определению того, что означает, что видео, картинка или аудиозапись являются «синтетическими» или «манипулируемыми». Дель Харви, вице-президент по вопросам доверия и безопасности, считает, что «преднамеренные попытки ввести в заблуждение или ввести в заблуждение людей с помощью манипулируемых СМИ подрывают целостность общения», поэтому их интересуют взгляды каждого на этот счет.
В частности, Twitter планирует как минимум три способа решения этой проблемы. Один из них — помечать твиты глубокими подделками как таковыми, чтобы никто не воспринимал их слишком серьезно. Другой — предупредить людей перед тем, как твитнуть или ретвитнуть подделку. Третья возможность добавить ссылку на статью или Twitter Moment, которая может рассказать пользователям о том, что твиты могут содержать манипулируемые ресурсы.
Компания также рассматривает идею удаления твитов, которые «могут угрожать чьей-либо физической безопасности или причинить серьезный вред», но не вдавалась в подробности того, что именно считается таковым. Компания также обратилась к партнерам с просьбой помочь разработать эффективные инструменты обнаружения фальшивого контента.
В то же время, люди получают массу удовольствия от таких манипулятивных приложений, как Zao, — по крайней мере, до тех пор, пока они не обнаружат все последствия для конфиденциальности. Регуляторы уже обдумывал законы, которые оградят от политических и порнографических deepfakes, и такие компании, как Microsoft и Facebook разрабатывают более эффективные инструменты для их обнаружения.
Источник: