Четыре стратегии, рекомендованные экспертами по технологиям и маркетингу, чтобы уменьшить предвзятость в ИИ
Искусственный интеллект играет роль во многих решениях, в том числе о том, кто проходит собеседование, кто имеет право на определенные кредитные продукты и многое другое. В статье также отмечается, что, хотя использование ИИ в прогнозах и принятии решений может уменьшить субъективность людей, оно также может включать предубеждения, которые приводят к неправильным и/или дискриминационным прогнозам и результатам для определенных сегментов населения. В то время как маркетинговые компании и другие заинтересованные стороны полагаются на ИИ, чтобы помочь им ориентироваться на лучших потребителей продуктов и услуг компании, а также на потенциальных сотрудников, они также должны принимать меры для устранения любой непреднамеренной предвзятости из алгоритмов ИИ. Это не только правильно с моральной точки зрения, но и может помешать их маркетинговым сообщениям достичь нужных потенциальных потребителей. Эксперты по технологиям и маркетингу рекомендуют следующие четыре стратегии, чтобы искоренить или, по крайней мере, уменьшить предвзятость в ИИ.
Взгляните на данные обучения ИИ
По словам Займана, специалисты по данным следят за тем, чтобы данные передавали конечным пользователям полную картину ассортимента. Чтобы избежать каких-либо несоответствий, команда данных тщательно планирует все ситуации и причины действий. Мы должны тщательно изучить историю и опыт каждого человека, чтобы уменьшить предвзятость. По мере того, как клиенты используют наш подход, они оставляют нам отзывы и объясняют, как модель будет работать на практике.
Проверяйте и перепроверяйте решения ИИ
По словам Кристиана Веттре, хотя в прошлом было относительно просто изучить схемы ручной оценки лидов на предмет оценки компонентов, которые могут быть истолкованы как дискриминационные, это может быть сложнее сделать с моделями ИИ, для понимания которых требуются более специализированные знания.
По словам Веттре, лучшей практикой является позволить ИИ быть предписывающим, но всегда прозрачным, позволяя бизнес-пользователям оценивать реализацию ИИ, чтобы бизнес всегда мог ее проверить.
Получите прямую обратную связь от ваших клиентов
Барух Лабунски, создатель Rank Secure, сказал: «Мы предпринимаем множество шагов, чтобы защитить наши алгоритмы ИИ от предвзятости. Прежде чем полагаться на опыт своих клиентов, вы должны принять во внимание ограничения ваших данных. Мы достигаем этого, время от времени разговаривая с клиентами лично, чтобы собрать образцы их личного опыта работы с ИИ. Поступая таким образом, мы индивидуально отправляем электронное письмо или звоним им, чтобы узнать об их опыте. Чтобы понять, через что проходит потребитель с ИИ, мы проходим этот процесс вместе с нашим поставщиком. После личного опыта мы можем определить проблемы, требующие устранения. Так обнаруживаются предубеждения».
Используйте постоянный надзор, чтобы предотвратить предвзятость в ИИ
По словам Николаса Гауда, соучредителя и главного технического директора Prevision.io, компания использует структуру из пяти частей для принятия моральных решений в инициативах по работе с данными и машинному обучению. «Мы организовали его в соответствии с пятью отдельными этапами проекта данных: инициация, планирование, мониторинг, выполнение и закрытие. Делая это, мы можем гарантировать, что наш ИИ всегда свободен от предубеждений».
Даже если на каждом этапе существуют меры безопасности, помогающие предотвратить предвзятость, крайне важно изучить и контролировать результаты, чтобы убедиться, что непреднамеренная предвзятость не проникла на более ранние этапы.
По словам Гауда, этап мониторинга предполагает получение согласия от потребителей данных, обмен данными и результатами с другими, а также открытость и прозрачность для раскрывающих данные лиц. Наш завершающий этап включает в себя документирование, непрерывную реализацию, оценку и повторение систематических вопросов информационной этики, а также учет того, как данные удаляются, уничтожаются и/или переобучаются.
Сообщение «Способы уменьшить предвзятость в ИИ» впервые появилось в Analytics Insight.
