Согласно отчету Файнэншл Таймс (откроется в новой вкладке)Google работает над инструментом, который может помочь модерировать экстремистские материалы для небольших компаний, таких как стартапы, у которых может не быть ресурсов для этого.
Внутренний проект, над которым работает подразделение Google Jigsaw, которому поручено бороться с угрозами открытому обществу, был разработан совместно с поддерживаемой ООН организацией Tech Against Terrorism.
Google заявляет, что инициатива призвана помочь модераторам обнаруживать и удалять потенциально незаконный контент, включая расистские и другие ненавистнические комментарии, с веб-сайта.
Гугл против терроризма
Проект стал возможен благодаря базе данных террористических объектов, предоставленной Глобальным интернет-форумом, основанным группой технологических гигантов, включая Google, Meta, Microsoft и Twitter.
Он разработан специально для поддержки небольших компаний, которые не могут позволить себе ресурсы, необходимые для эффективной модерации, будь то большие группы сотрудников или дорогостоящие инструменты искусственного интеллекта.
Ожидается, что этот инструмент будет ценным в то время, когда экстремисты, которым запретили доступ в крупные сети, выбирают более мелкие платформы для выражения своих взглядов. Это также служит защитной мерой для компаний, реагирующих на Закон ЕС о цифровых услугах и предстоящий законопроект Великобритании о безопасности в Интернете, который налагает штрафы на компании, которые не удаляют такой контент.
На данный момент кажется, что он будет работать по принципу согласия, а это означает, что компании, чье основное намерение состоит в том, чтобы хранить такие сообщения, будут продолжать делать это даже перед лицом потенциальных штрафов.
Предполагается, что две (неназванные) компании проведут тестирование кода в конце этого года, что указывает на то, что до полного развертывания еще далеко.
В другом месте Meta выпустила свой собственный инструмент, который называется Hasher-Matcher-Actioner (HMA). Как и проект Jigsaw, он был разработан для предотвращения распространения ненавистнического контента и основан на существующих на платформе инструментах модерации видео- и фотоконтента.
