Люди со сверхмощным искусственным интеллектом рискуют быть захваченными искусственным сверхразумом через 30 лет
Хотя эксперты по ИИ не согласны во многих вещах, все они согласны в одном: технологии ИИ и машинного обучения окажут огромное влияние на общество и бизнес. Генеральный директор Google Сундар Пичаи комментирует, что искусственный интеллект — это «одна из важнейших вещей, над которыми работают гуманитарные науки», и он более глубок, чем наши разработки электричества или огня.
ИИ — это когда мы снабжаем машины (программное и аппаратное обеспечение) способностями, подобными человеческим. Это означает, что мы предлагаем машинам возможность имитировать человеческий интеллект. Машинное обучение (МО) означает, что машины обучены видеть, слышать, говорить, двигаться и принимать решения. Различие между искусственным интеллектом и традиционными технологиями заключается в том, что ИИ может делать прогнозы и учиться самостоятельно. Люди настраивают ИИ для достижения цели. После этого их обучают данным, чтобы они узнали, как лучше всего достичь этой цели. Как только он достаточно хорошо схватывает, мы запускаем искусственный интеллект на свежие данные, которые он затем может использовать для достижения целей самостоятельно без каких-либо прямых инструкций со стороны человека. ИИ выполняет все это, делая прогнозы. Искусственный интеллект анализирует данные, а затем использует их, чтобы делать (почти) точные прогнозы. Преимущество использования ИИ заключается в том, что он может выполнять те же задачи, что и люди, но гораздо быстрее и с меньшим количеством ошибок. Обычно существует три формы современного ИИ: искусственный узкий интеллект (ANI), искусственный общий интеллект (AGI) и искусственный сверхинтеллектуальность (ASI). Есть много потенциальных преимуществ более продвинутого искусственного интеллекта и машинного обучения. Медицина, например, выиграла бы от роботов-врачей, таких же опытных, как люди.
Но поскольку у каждой монеты две стороны, ИИ и МО сопряжены с определенными рисками. А именно, если программа ИИ, бесконечно более умная, чем мы, станет злонамеренной, не будет практически никакого плана, чтобы остановить ее. Хотя это может принести пользу обществу, злонамеренная программа искусственного сверхразума (ИСС) сохраняет потенциал уничтожения человечества, и ее не следует создавать или развивать. Исследователи ИИ и руководители технологий, такие как Илон Маск, открыто выразили глубокую обеспокоенность по поводу вымирания человечества, вызванного машинным обучением. Некоторые другие эксперты также считают, что «машина с интеллектом на уровне человека может быть создана в ближайшие 30 лет и может представлять угрозу для жизни на Земле».
Настоящие и будущие угрозы
По словам доктора Льюиса Лю, генерального директора компании Eigen Technologies, занимающейся искусственным интеллектом, к этому времени некоторые искусственные устройства уже «ушли в тень». «Даже «глупые, бессознательные модели», которые мы представили, могут содержать этические проблемы, связанные с включением», — сообщил доктор Лю The US Sun. «Подобные шалости уже происходят сегодня. «Исследования Университета Джона Хопкинса показывают, что алгоритмы искусственного интеллекта, как правило, проявляют предубеждения, которые могут дискриминировать людей с другим цветом кожи и женщин при выполнении своих операций. Американский союз гражданских свобод также выразил обеспокоенность по поводу того, что ИИ может «усугубить расовое неравенство», поскольку такие огромные избирательные процессы, как найм и жилье, автоматизированы. «Общий ИИ или сверхразум ИИ просто собирается работать в гораздо более широком масштабе, более широко распространяя эти проблемы», — выразил беспокойство доктор Лю. Тотальная война человека против машины в стиле Терминатора тоже не кажется невозможной. Опрос в книге футуролога Ника Бострома «Суперинтеллект» показывает, что почти 10% экспертов считают, что компьютер с искусственным интеллектом человеческого уровня стремится к опасному для жизни кризису человечества. Гигантское заблуждение об ИИ состоит в том, что он ограничен своим черным ящиком, который можно просто отключить, если он намеревается причинить нам вред. Некоторые эксперты согласны с тем, что ландшафт угроз должен учитывать разумный искусственный интеллект, потому что мы не уверены, когда он появится в сети или как он будет реагировать на людей.
Предотвращение Судного Дня
Доктор Лю с грустью заметил, что «это будет довольно грязный мир», если мы достигнем искусственного сверхразума с существующим слабым стилем регулирования технологий. Он прокомментировал развитие надзора, при котором данные, лежащие в основе моделей ИИ, проверяются на пристрастность. Если данные для обучения модели получены из общедоступных источников, то программисты должны получить согласие пользователей на их применение. Регулирование в США не делает упор на «человеческую проверку результатов», но текущие события в Китае начали подчеркивать необходимость удержания искусственного интеллекта под контролем человека.
Пост Обратный отсчет начинается! У людей есть 30 лет, чтобы быть захваченным ИИ, впервые появилось в Analytics Insight.
