Интерпретация объяснений на человеческом уровне людьми усложняет вычисления систем ИИ в ML.
Изучение человеческого познания на его самом фундаментальном уровне, известном как базовая когнитивная обработка, называется когнитивной наукой. Психология, неврология и когнитивная нейробиология являются основными областями изучения когнитивной науки. Многие из их открытий имеют важное применение в ИИ, а именно в дисциплине машинного обучения. Интересно, что исследования в области нейрофизиологии и микрокартирования подтверждают идею о том, что сложные психические операции можно объяснить на системном уровне. Системы искусственного интеллекта во многом похожи на упрощенные версии нашего мозга.
С каждым днем ИИ становится все умнее. ИИ будет подвержен тем же ограничениям, что и люди, если он достигнет уровня интеллекта, подобного человеческому. Интерпретация и формирование объяснений на человеческом уровне людьми усложняют вычисления систем ИИ в ML. Принципы интуиции и исследования мозга предполагают, что люди имеют особые предпочтения в интерпретации фактов еще до того, как они их выражают. Но если мы слишком полагаемся на ИИ, мы рискуем недооценить важность человеческого поведения. Кроме того, даже несмотря на то, что системы ИИ совершенствуются множеством способов, мы все еще не до конца понимаем, как люди выполняют аналогичные, но более сложные задачи в этих областях. Даже когда мы пытаемся определить, что такое «человек», различия становятся все более туманными.
Эвристика доступности, утверждающая, что люди обычно больше зависят от данных, подтверждающих их нынешние идеи, является заметным когнитивным искажением, когда речь идет о выборе ИИ. Мы часто тяготеем к наиболее релевантной или логичной интерпретации данных свидетельств, когда сталкиваемся с противоречивыми или неоднозначными данными. Эта тактика может работать в определенных обстоятельствах, но во многих она может привести к неразрывной бесконечной петле неудач. Утечки памяти, которые происходят, когда алгоритмы сильно зависят от эвристики для принятия решений и в конечном итоге зависят от нерелевантной или устаревшей информации, являются классическим примером.
Люди предпочитают использовать эвристику при принятии решений, что легко заметить (по крайней мере, мы так считаем), но эти предубеждения являются автоматическими и бессознательными, что затрудняет их выявление. Есть все основания полагать, что люди использовали предубеждения в повседневной жизни со времен культуры охотников-собирателей в течение очень долгого времени. Многие навыки, которыми люди обладают сегодня, такие как язык и математика, уже были приобретены с помощью различных стратегий обучения, таких как зеркальное отражение. Усвоить информацию не сложно. Наш мозг может быстро его расшифровать.
Утверждать, что предвзятость по-прежнему играет небольшую роль в принятии решений человеком, было бы неверным. Несмотря на то, что постоянно разрабатываются улучшенные методы фильтрации, в настоящее время не существует единого решения для продвижения ИИ. Мы понимаем, что ИИ и человеческий разум по-прежнему подвержены ошибкам. Это означает, что ни одна система ИИ никогда полностью не заменит человека ни в одном из своих вычислений, независимо от того, насколько опытные нейронные сети будут развиваться в предвидении следующего образа действий.
Поскольку когнитивные предубеждения уходят корнями в человеческую природу и вряд ли исчезнут, системам ИИ необходимо будет их учитывать. Невозможно создать совершенную систему ИИ. Используемые в настоящее время методы можно только улучшать, оптимизировать и совершенствовать, придавая всем остальным частям системы качество, подобное человеческому. Чем больше вы знаете о когнитивных искажениях, тем эффективнее вы можете использовать машинное обучение и искусственный интеллект.
Больше популярных историй
- 10 000 долларов США идут на биткойны! Но что ждет после этого?
- Куда направляется Андрей Карпаты после ухода из «Автопилота» Теслы?
- ИИ Google не является профессионалом в маркировке данных! Но комп этого не признает
- Как закон раскроет преступления метавселенной? Кто будет свидетелем?
- Генераторы изображений с искусственным интеллектом, такие как Dall.E и Imagen, крадут идеи у людей
- От модели, ориентированной на данные, как движется экосистема ИИ?
- 10 лучших мини-этичных хакерских проектов, которые соискатели должны добавить в резюме
Сообщение Как когнитивное искажение влияет на искусственный интеллект? появился сначала на .
