Эксперты из Управления комиссара по информации Великобритании (ICO) предостерегают от использования систем эмоционального анализа на базе ИИ, опасаясь, что их недостатки могут перевесить преимущества, по крайней мере, на данный момент.
Носимые инструменты скрининга для мониторинга здоровья или поведенческого мониторинга, такие как положение тела, речь, движения глаз и головы, приведены в качестве примеров, когда данные, которые необходимо собрать, могут рассматриваться как опасные.
В ICO говорят, что хранение и обработка этого типа данных, включая подсознательное поведение, может быть идентифицирующим личность, что создает определенные проблемы с точки зрения того, как компании могут затем использовать эти данные.
Безопасность биометрических данных
«Несмотря на наличие возможностей, риски в настоящее время выше», — сказал заместитель комиссара ICO Стивен Боннер. «В ICO мы обеспокоены тем, что неправильный анализ данных может привести к неточным предположениям и суждениям о человеке и привести к дискриминации. ».
Кроме того, есть тот факт, что, по словам Боннера, «они могут не работать еще или даже никогда». Научиться понимать личные эмоции может быть чрезвычайно сложно для людей; сжатие этой информации в данные, которые компьютер сможет использовать для еще большей классификации своих субъектов.
Прямо сейчас ICO хочет, чтобы предприятия использовали технологии, которые «полностью функциональны, подотчетны и подкреплены наукой». Организация также заявляет, что ей «еще предстоит увидеть» технологию искусственного интеллекта, которая удовлетворяет требованиям защиты данных, выражая дополнительные опасения по поводу пропорциональности, справедливости и прозрачности.
К весне 2023 года ICO надеется опубликовать руководство по биометрии, которое поможет организациям понять важность безопасности, поскольку этот тип технологий становится все более распространенным в сфере финансов, фитнеса, образования и даже индустрии иммерсивных развлечений.
Тем временем Боннер говорит, что ICO «продолжит тщательно изучать рынок, выявляя заинтересованные стороны, которые стремятся создать или развертывать эти технологии, и объясняя важность повышенной конфиденциальности данных и соответствия требованиям, одновременно поощряя доверие и уверенность в том, как эти системы Работа.”
