Наш мозг может подсознательно обнаруживать дипфейки, даже если наше сознание обмануто
Исследовательская группа Сиднейского университета утверждает, что наш мозг может подсознательно обнаруживать дипфейки, даже если наше сознание обмануто. Глубокий фейк — это тип киберпреступления, при котором чья-то личность копируется с использованием нескольких технических инструментов для распространения ложной информации. Такие инструменты, как искусственный интеллект, фотошоп, машинное обучение и многие другие, широко используются для создания дипфейковых видео, клипов и другого контента.
Нейробиологи обнаружили, что человеческий мозг может распознавать фальшивые лица, созданные искусственным интеллектом, даже если люди не могут сообщить, какие лица настоящие, а какие фальшивые. Полученные данные показывают, что в мозге испытуемых, которые контролировались с помощью электроэнцефалографии (ЭЭГ), исследователи обнаружили, что человеческий мозг кодирует и интерпретирует реалистичные искусственно созданные изображения способом, отличным от идентификации в реальной жизни. ЭЭГ — это тест, который показывает активность поверхностного слоя мозга.
Наш мозг может подсознательно обнаруживать дипфейки:
Поддельные видео, изображения, аудио или текст кажутся подлинными, но на самом деле являются компьютерными клонами, созданными для того, чтобы ввести вас в заблуждение и повлиять на общественное мнение. Рост цифровой пропаганды, распространяемой злоумышленниками, вызвал обеспокоенность по поводу того, сможет ли широкая публика отличить реальность от поддельных изображений или видео. Это не сразу — и потенциально никогда — не приведет к надежному способу обнаружения дипфейков.
Шлемы с электроэнцефалографией могли бы помочь предотвратить недавние ограбления банков и случаи корпоративного мошенничества в Дубае и Великобритании. ЭЭГ смогла успешно обнаружить дипфейки в 54 процентах случаев. Но когда более раннюю группу попросили устно идентифицировать те же дипфейки, их показатель успеха составил всего 37 процентов. Дипфейки создаются компьютерными программами, и эти программы оставляют «отпечатки пальцев», которые можно обнаружить.
Исследователи провели два эксперимента. Один поведенческий, а другой использует нейровизуализацию. Участникам показали 50 изображений реальных и сгенерированных компьютером поддельных лиц. Их попросили определить, какие из них настоящие, а какие фальшивые. Затем исследователи пригласили новую группу испытуемых, которые посмотрели на тот же набор из 50 изображений, но на этот раз их мозг контролировали с помощью нейровизуализации ЭЭГ. Затем исследователи сравнили результаты двух экспериментов и обнаружили, что мозг людей лучше распознает дипфейки, чем их глаза.
Исследователи говорят, что мозг может определить разницу между дипфейками и подлинными изображениями. И они обнаружили, что на групповом уровне участники «имели тенденцию менять ярлыки, классифицируя настоящие лица как реалистичные подделки и наоборот. Данные также показывают, что, несмотря на внешнее сходство, современные дипфейки имеют недостатки.
Исследовательская группа, обнаружившая способность мозга обнаруживать дипфейки, означает, что у нас может быть еще один инструмент для борьбы с дипфейками и распространением дезинформации. Кроме того, исследования, направленные на понимание несоответствия между нейронными реакциями и сознательной идентификацией, могут помочь в борьбе с дипфейками. В будущем шлемы ЭЭГ могут помочь чиновникам выявлять мошенников в режиме реального времени. В этих случаях финансовые сотрудники думали, что слышат голос доверенного клиента или партнера, и были обмануты при переводе средств.
Больше популярных историй
- Биткойн-акулы тайно припасли 52 тыс. токенов BTC в прошлом месяце
- Мета, чтобы помочь Википедии противостоять дезинформации! Но насколько беспристрастен ИИ больших технологий?
- Web3 и Metaverse: почему так важно научиться различать?
- Поскольку угроза квантового дешифрования усиливается, IBM приходит на помощь
- PyPI раздает 4000 ключей безопасности Google Titan для противодействия атакам
- Военные стартапы в области искусственного интеллекта переживают большой бум благодаря российско-украинской войне
- 10 лучших групп LinkedIn, в которых специалисты по данным должны быть частью
Пост «Наш мозг может подсознательно обнаруживать дипфейки, но разум обманывает» впервые появился на .
