Содержание
- Что такое Deepfake?
- Как работает DeepFake?
- Истоки
- Опасности
- Нахождение решения
- Популярный фальшивый контент
Глубокий поддельный контент создает хаос среди людей, которые выросли с идеей, что зрение - это вера. Фотографии и видео, когда-то считавшиеся неоспоримым свидетельством того, что что-то происходит, сейчас подвергаются сомнению массами. Этого следует ожидать после того, как обнаружение удивительно реалистичного видео Барака Обамы, в котором президент Трамп называет «полным и полным провалом», является не чем иным, как фальшивым творением.
Глубокий поддельный контент создает хаос среди людей, которые выросли с идеей, что зрение - это вера.
Эдгар СервантесИспользуемая технология поднимает брови и порождает вопросы, поэтому мы здесь, чтобы дать вам полное подробное изложение того, что это такое, как это работает, и если действительно есть повод для беспокойства.
Что такое Deepfake?
Deepfake - это метод искусственного интеллекта, который использует машинное обучение для создания или управления контентом. Он часто используется для создания монтажа или наложения лица человека поверх другого, но его возможности выходят далеко за рамки этого. Эта технология имеет множество других приложений. К ним относятся манипулирование или создание звука, движения, ландшафтов, животных и многое другое.
Как работает DeepFake?
Deepfake контент создается с помощью техники машинного обучения, известной как GAN (порождающая состязательная сеть). GAN используют две нейронные сети: генератор и дискриминатор. Они постоянно конкурируют друг с другом.
Генератор попытается создать реалистичное изображение, а дискриминатор попытается определить, является ли оно поддельным или нет. Если генератор обманывает дискриминатор, дискриминатор использует собранную информацию, чтобы стать лучшим судьей. Аналогичным образом, если дискриминатор определяет, что изображение генератора является подделкой, генератор станет лучше при создании поддельного изображения. Бесконечный цикл может продолжаться до тех пор, пока изображение, видео или аудио больше не станут заметно фальшивыми для человеческой перспективы.
Истоки
Первое deepfake видео явно порно!
Эдгар СервантесПервое deepfake видео явно порно! Более конкретно, оно было общим, чтобы увидеть знаменитое лицо налагается на порно актрис. Мемы Николаса Кейджа были также популярны среди других забавных изобретений.
Слово Deepfake стало синонимом этой техники в 2017 году благодаря пользователю Reddit, который получил название «Deepfakes». Пользователь присоединился к другим пользователям, которые сейчас забанены г / deepfakes subreddit, где они поделились своими творениями с миром.
Настоящим создателем порождающих противоборствующих сетей является Ян Гудфеллоу. Вместе со своими коллегами он представил эту концепцию в Монреальском университете в 2014 году. Затем он перешел на работу в Google и в настоящее время работает в Apple.
Опасности
В чужих руках, Deepfake создание может быть использовано для фальсификации гораздо больше, чем глупые мемы Николаса Кейджа.
Эдгар СервантесХотя манипулирование контентом не является чем-то новым, оно требовало серьезных навыков. Вам понадобился мощный компьютер и действительно веская причина (или слишком много свободного времени) для создания поддельного контента. Программное обеспечение для создания Deepfake, такое как FakeApp, бесплатное, его легко найти, и оно не требует больших затрат компьютера. И поскольку он выполняет всю работу сам по себе, вам не нужно быть опытным редактором, чтобы создавать безумно настоящие фальшивые медиа.
Вот почему широкая общественность, знаменитости, политические структуры и правительства беспокоятся о фальшивом движении. В чужих руках, Deepfake создание может быть использовано для фальсификации гораздо больше, чем глупые мемы Николаса Кейджа. Представьте, что кто-то создает фальшивые новости или компрометирующее видео доказательство. Вы можете добавить поддельные и порноместь проблемы. Все может очень быстро запутаться.
Еще одна причина для беспокойства по поводу фальшивого контента заключается в том, что важные личности могут также отрицать прошлые действия. Поскольку фальшивые видео кажутся настолько реальными, любой может заявить, что реальный клип - фальшивый.
Также прочитайте: Сложности этики и искусственного интеллекта
Нахождение решения
Будучи очень близким к реальному, обученный глаз все же может обнаружить поддельное видео, уделяя пристальное внимание. Проблема заключается в том, что в какой-то момент в будущем мы не сможем определить разницу.
Twitter, Pornhub, Reddit и другие безуспешно пытались избавиться от такого контента. Что касается более официальной стороны, DARPA (Агентство перспективных исследовательских проектов в области обороны) работает с исследовательскими институтами и Университетом Колорадо, чтобы создать способ обнаружить подделок.
Лучшее, что мы можем сделать для борьбы с фальшивыми видео, - это быть более наблюдательными и менее легковерными.
Эдгар СервантесПока у нас нет программного обеспечения, которое может выявлять нарушения в таких видео, лучшее, что мы можем сделать, - это быть более наблюдательным и менее легковерным. Сделайте свое исследование, прежде чем предположить, что видео, изображение или аудио реальны. Это то, что мы должны были уже делать, в любом случае.
Популярный фальшивый контент
Джордан Пил (Jordan Peele) присоединяется к Buzzfeed, чтобы создать это видео, которое предназначено для создания сознания.
Клер Уордл, эксперт по онлайн-манипуляциям, показывает нам, насколько реалистично могут выглядеть эти видео, выступая в роли Адель в течение первых 30 секунд видео. Это видео из The New York Times дает нам отличное понимание этой темы.
Watchmojo дает кураторский список некоторых самых популярных фальшивых видео. Это забавное видео с множеством отличных примеров.
Вы беспокоитесь о последствиях фальшивых видео? Это, безусловно, тема, которую мы должны помнить, работая над поиском решений.
