Кампании по дезинформации используют мощные инструменты, побуждающие правительства обращаться за опытом к стартапам в области искусственного интеллекта, которые могут помочь распознать дипфейки.
Злоумышленники используют искусственный интеллект для создания видеороликов, выдающих себя за политиков и знаменитостей. По меньшей мере вредоносными являются глупые и явно фальшивые кадры, на которых, похоже, президенты США вместе играют в Minecraft, но в худшем случае технология может представлять реальную угрозу для национальной безопасности.
В 2018 году комик, ставший оскароносным режиссером Джордан Пил, выступил с предупреждением для общественности в виде одной из первых подделок, которая стала вирусной. На видео демонстрировался Барак Обама, произносящий фразы, которые выходят далеко за рамки его обычной речи, включая неожиданное: "Не спите, суки!"
Выпускник Йельского университета Риджул Гупта наткнулся на видео и был мгновенно поражен мощью искусственного интеллекта. В его голове начали проноситься бесконечные возможности, как положительные, так и отрицательные, вспоминал он в недавнем интервью Decrypt — и он понял, что миру нужна компания с "этическим уклоном”, которая уделяет внимание космосу.
В результате он и его коллега, выпускница Йельского университета и эксперт по лингвистике Эмма Браун стали соучредителями DeepMedia - компании, которая занимается разоблачением технологии глубокой подделки.
У DeepMedia есть два продукта: DubSync, сервис перевода и дубляжа с использованием искусственного интеллекта, и DeepIdentify.AI, служба обнаружения подделок. Последнее является их основным предложением, которое привело к недавнему трехлетнему контракту на 25 миллионов долларов с Министерством обороны США (DoD).
"Мы можем отследить, как на самом деле должно выглядеть и двигаться лицо, а затем нанести это на карту”, - рассказала Decrypt исполнительный директор DeepMedia Эмма Браун. “Мы можем определить, какое движение является нормальным для лица”.
Фотография может быть обработана за пять секунд, в то время как двухминутное видео будет "полностью обработано от начала до конца с подробным анализом лиц, голосов и акцентов” менее чем за пять минут, пояснила она. Затем конечному пользователю будет сообщено, какой объем манипуляций был обнаружен и где это находится на видео или изображении.
По ее словам, модель способна обнаруживать с точностью "более 95%" благодаря большому объему обучающих данных.
В связи с приближением выборов в США в 2024 году технология глубокой подделки является последней проблемой, которая может повлиять на голосование — аналогично скандалу с Cambridge Analytica 2018 года.
Вмешательство также может быть не таким простым. На самом деле, подделки могут использоваться для отрицания реальности и попыток опровергнуть фактическую информацию и события.
Только за последний год произошла стремительная эволюция технологий и инструментов генеративного искусственного интеллекта. По мере развития технологии подделок, несомненно, становится еще сложнее идентифицировать мошеннические клипы невооруженным глазом.
Злоумышленники используют искусственный интеллект для создания видеороликов, выдающих себя за политиков и знаменитостей. По меньшей мере вредоносными являются глупые и явно фальшивые кадры, на которых, похоже, президенты США вместе играют в Minecraft, но в худшем случае технология может представлять реальную угрозу для национальной безопасности.
В 2018 году комик, ставший оскароносным режиссером Джордан Пил, выступил с предупреждением для общественности в виде одной из первых подделок, которая стала вирусной. На видео демонстрировался Барак Обама, произносящий фразы, которые выходят далеко за рамки его обычной речи, включая неожиданное: "Не спите, суки!"
Выпускник Йельского университета Риджул Гупта наткнулся на видео и был мгновенно поражен мощью искусственного интеллекта. В его голове начали проноситься бесконечные возможности, как положительные, так и отрицательные, вспоминал он в недавнем интервью Decrypt — и он понял, что миру нужна компания с "этическим уклоном”, которая уделяет внимание космосу.
В результате он и его коллега, выпускница Йельского университета и эксперт по лингвистике Эмма Браун стали соучредителями DeepMedia - компании, которая занимается разоблачением технологии глубокой подделки.
У DeepMedia есть два продукта: DubSync, сервис перевода и дубляжа с использованием искусственного интеллекта, и DeepIdentify.AI, служба обнаружения подделок. Последнее является их основным предложением, которое привело к недавнему трехлетнему контракту на 25 миллионов долларов с Министерством обороны США (DoD).
Как это работает?
DeepIdentity.Искусственный интеллект просматривает фотографию или видео в поисках несоответствий или неточностей, которые указывают на то, что изображение или отснятый материал являются подделкой. Распространенные отличительные признаки включают в себя такие вещи, как неестественно подрагивающий рот или тени, которые физически невозможны."Мы можем отследить, как на самом деле должно выглядеть и двигаться лицо, а затем нанести это на карту”, - рассказала Decrypt исполнительный директор DeepMedia Эмма Браун. “Мы можем определить, какое движение является нормальным для лица”.
Фотография может быть обработана за пять секунд, в то время как двухминутное видео будет "полностью обработано от начала до конца с подробным анализом лиц, голосов и акцентов” менее чем за пять минут, пояснила она. Затем конечному пользователю будет сообщено, какой объем манипуляций был обнаружен и где это находится на видео или изображении.
По ее словам, модель способна обнаруживать с точностью "более 95%" благодаря большому объему обучающих данных.
Почему нас это должно волновать?
В своем нынешнем состоянии технология deepfake наиболее известна глупыми пародийными видеороликами, нереалистичными подражаниями президенту и вредной фальшивой порнографией. Однако технология также может быть использована для создания реальной напряженности между государствами, что потенциально может привести к жертвам, террористическим атакам и другим вредным или разрушительным реакциям.В связи с приближением выборов в США в 2024 году технология глубокой подделки является последней проблемой, которая может повлиять на голосование — аналогично скандалу с Cambridge Analytica 2018 года.
Вмешательство также может быть не таким простым. На самом деле, подделки могут использоваться для отрицания реальности и попыток опровергнуть фактическую информацию и события.
Только за последний год произошла стремительная эволюция технологий и инструментов генеративного искусственного интеллекта. По мере развития технологии подделок, несомненно, становится еще сложнее идентифицировать мошеннические клипы невооруженным глазом.
