Почти десять лет назад лауреат премии Тьюринга, а ныне бывший сотрудник Google доктор Джеффри Хинтон был известен тем, что с энтузиазмом восклицал среди своих студентов, изучающих искусственный интеллект: «Теперь я понимаю, как работает мозг!» Теперь, однако, «Крестный отец ИИ» ушел из Google — и он более склонен к тому, чтобы услышать, как он отчаянно звонит в тревожные колокола ИИ.
В выходное интервью с Нью-Йорк Таймс (откроется в новой вкладке), Хинтон выразил глубокую озабоченность по поводу быстрого распространения ИИ, заявив, что «трудно понять, как можно предотвратить использование его злоумышленниками в плохих целях».
Прямая линия связывает многолетнюю новаторскую работу Хинтона в области нейронных сетей с современными чат-ботами (ChatGPT, Google Bard, Bing AI). Его открытия более десяти лет назад побудили Google привлечь его к разработке систем глубокого обучения следующего поколения, которые могли бы помочь компьютерам интерпретировать изображения, текст и речь так же, как это делают люди.
Говоря с Wпламя в 2014 (откроется в новой вкладке)Энтузиазм Хинтона был ясен: «Я очень взволнован, когда мы обнаруживаем способ сделать нейронные сети лучше — и когда это тесно связано с тем, как работает мозг».
Совершенно другой Хинтон говорил с Нью-Йорк Таймс (откроется в новой вкладке) на этой неделе, чтобы обрисовать в общих чертах все способы, которыми ИИ может сбить человечество с рельсов. Вот основные выводы:
Спешка к соревнованиям означает отлет ограждений
Хотя такие компании, как Microsoft, Google и OpenAI, часто заявляют о медленном и осторожном подходе к разработке ИИ и развертыванию чат-ботов, сказал доктор Хинтон. Нью-Йорк Таймс что он беспокоится, что реальность такова, что усиление конкуренции приводит к менее осторожному подходу. И он явно прав: ранее в этом году мы были свидетелями того, как Google выбрасывал не готового к прайм-тайму Bard, чтобы встретить неожиданное появление Bing AI от Microsoft на платформе ChatGPT.
Могут ли эти компании сбалансировать рыночный императив оставаться впереди конкурентов (например, Google остается номером 1 в поиске) с большей пользой? Доктор Хинтон теперь не убежден.
Потеря правды
Доктор Хинтон обеспокоен распространением искусственного интеллекта, что приводит к потоку поддельного онлайн-контента. Конечно, это забота не о будущем, а о реальном времени, поскольку люди теперь регулярно дурачатся музыкой ИИ, которая подделывает вокальные данные мастеров (включая мертвых), Новостные изображения ИИ (откроется в новой вкладке) воспринимаются как настоящие и генеративные изображения победа в фотоконкурсах (откроется в новой вкладке). Учитывая силу и распространенность дипфейков, немногие видео, которые мы смотрим сегодня, можно принять за чистую монету.
Тем не менее, доктор Хинтон может быть прав в том, что это только начало. Если Google, Microsoft, OpenAI и другие ничего с этим не сделают, мы не сможем доверять всему, что видим или даже слышим.
Разрушенный рынок труда
Доктор Хинтон предупредил Времена что ИИ предназначен для выполнения не только задач, которые мы не хотим выполнять.
Многие из нас использовали чат-ботов, таких как Bard и ChatGPT, для написания презентаций, предложений и даже программирования. Большая часть вывода не готова к прайм-тайму, но некоторые из них являются или, по крайней мере, сносными.
Есть прямо сейчас десятки романов, созданных искусственным интеллектом, выставлены на продажу на Amazon, а союз сценаристов (Гильдия писателей Америки) в США выразил обеспокоенность тем, что, если они не согласятся на новый контракт, студии могут отдать свою работу на аутсорсинг ИИ. И хотя массовых увольнений, связанных непосредственно с ИИ, не было, распространение этих мощных инструментов приводит к тому, что некоторые переосмыслить свою рабочую силу.
Неожиданное и нежелательное поведение
Одной из отличительных черт нейронных сетей и искусственного интеллекта с глубоким обучением является то, что он может использовать огромные массивы данных для самообучения. Одним из непреднамеренных последствий этой силы, подобной человеческому мозгу, является то, что ИИ может извлечь уроки, которых вы никогда не ожидали. Самоопределяющийся ИИ мог бы использовать ИИ на этих уроках. Доктор Хинтон сказал, что ИИ, который может не только программировать, но и запускать свои собственные программы, вызывает особое беспокойство, особенно в том, что касается непредвиденных результатов.
ИИ будет умнее нас
Современный ИИ часто кажется умнее людей, но с его склонностью к галлюцинациям и сфабрикованным фактам он далек от наших величайших умов. Доктор Хинтон считает, что день, когда ИИ действительно перехитрит нас, быстро приближается, и уж точно быстрее, чем он первоначально предполагал.
ИИ может имитировать эмпатию — см. его недавнее испытание как источник медицинских советов (откроется в новой вкладке) – но это не то же самое, что истинное человеческое сочувствие. Сверхумные системы, которые могут понять все, но без учета того, как их выбор может повлиять на людей, вызывают глубокую обеспокоенность.
Хотя предупреждения доктора Хинтона резко контрастируют с его первоначальным энтузиазмом в отношении технологического сектора, который он почти изобрел, кое-что, что он сказал Проводной о работе над системами искусственного интеллекта, имитирующими человеческий мозг, в 2014 году теперь звучит странно пророчески: «Мы перестали быть сумасшедшим маргиналом. Мы теперь сумасшедшее ядро».
