Главной проблемой для сотрудников является «потенциальное нарушение конфиденциальности данных» и неправомерное использование технологий против палестинцев.
Когда в 2019 году разразился скандал с Cambridge Analytica, никто не предполагал, что дальше будет только хуже. Теперь кажется, что технология достаточно созрела, чтобы показать свою неприятную сторону. Знать некоторые факты о человеке — это одно, а уметь предсказывать, что он собирается делать, — совсем другое — жуткий аспект технологии, о существовании которого многие люди не подозревают. Недавние протесты сотрудников Google, утверждающих, что компания предлагает расширенные технология машинного обучения а также Инструменты ИИ правительству Израиля через облако Google в рамках Проект Нимбус, который якобы предназначен для использования онлайн-данных для продвижения военных интересов страны, является ярким примером нашего коллективного невежества. Проект стоимостью 1,2 миллиарда долларов, объявленный правительством Израиля в апреле 2021 года, включает систему облачных вычислений, созданную Google и Amazon, предназначенную для предоставления правительству, людям и армии комплексного облачного решения. Технология по контракту предназначена для использования распознавания лиц, отслеживания объектов и анализа настроений, чтобы помочь понять эмоциональный оттенок изображений, речи и письма. Первоочередной проблемой для сотрудников является «потенциальное нарушение конфиденциальность данных‘ и неправомерное использование технологий израильским правительством против палестинцев. Протесты распространились на четыре города — Сан-Франциско, Нью-Йорк, Сиэтл и Дарем, Северная Каролина — протестуя и скандируя «Нет технологий для апартеида», «Еще один работник Google против апартеида».
Протесты начались через неделю после Корена. Google работодатель подал в отставку из-за ссоры с компанией за публичную критику контракта. Ей предложили невозможный выбор: либо переехать в Бразилию, либо уйти из компании. Корен, еврей по национальности, был против того, чтобы Google использовал свое влияние для подавления голосов палестинцев, евреев, арабов и мусульман. Что еще более важно, сотрудники Google обеспокоены тем, что их работа будет косвенно поддерживать израильскую оккупацию Палестины, поскольку они считают, что связь с Google может пополнить существующий технический арсенал, что приведет к милитаризации данных. Удивительно, но сотрудники, большинство из которых участвовали в создании технологии для Nimbus, не имеют представления о том, как проект будет реализован. «Бывший руководитель отдела безопасности Google Enterprise, который сейчас возглавляет израильское отделение Oracle, публично заявил, что одна из целей Nimbus — не дать правительству Германии запрашивать данные, касающиеся Армии обороны Израиля, для Международного уголовного суда», — сказал Джек. Поулсон, который ушел в отставку в знак протеста против своей работы в качестве научного сотрудника Google в 2018 году, в сообщении The Intercept. Обзор The Intercept показывает, что в учебных материалах Google есть ссылки на государственных служащих и министерство обороны, проходящих обучение на онлайн-портале Coursera. Google отрицает обвинения и держится подальше от военной точки зрения. Его представитель Атле Эрлингсон в заявлении для Forbes сказал: «Как мы неоднократно заявляли, контракт предназначен для рабочих нагрузок, выполняемых на нашей коммерческой платформе израильскими правительственными министерствами, такими как финансы, здравоохранение, транспорт и образование. Наша работа не направлена на высокочувствительные или засекреченные военные задачи, связанные с оружием или разведывательными службами».
Случай «в пользу сомнения» здесь может не применяться, поскольку это не первый случай, когда намерения Google оказались подозрительными. В 2020 году Google Cloud и технологии искусственного интеллекта распознавания изображений использовались для настройки системы наблюдения Таможенной и пограничной службой США. Ранее в 2019 году около 3000 сотрудников Google подписали петицию, протестуя против участия компании в проекте Министерства обороны США по искусственному интеллекту (ИИ) для улучшения ударов дронов на поле боя с помощью данных изображений Google с воздуха. Однако некоторые эксперты считают, что проблема является острой, и технологическим компаниям не следует вторгаться в области, к которым у них нет доступа; это создает риск злоупотреблений, говорит Лиз О’Салливан, генеральный директор стартапа Parity, занимающегося аудитом ИИ, и член Национального консультативного комитета США по искусственному интеллекту.
Сообщение Google и Amazon выбирают прибыль, а не конфиденциальность? Подсказка от Project Nimbus впервые появилась в Analytics Insight.
