Искусственный общий интеллект не так неизбежен, как вы думаете

Обычному человеку может показаться, что область искусственного интеллекта делает огромный прогресс. Согласно некоторым из наиболее громких сообщений в СМИ и пресс-релизам, DALL-E 2 от OpenAI, по-видимому, может создавать впечатляющие изображения из любого текста; другая система OpenAI под названием GPT-3 может говорить обо всём и даже писать о себе; а система под названием Gato, выпущенная в мае компанией DeepMind, подразделением Alphabet, как сообщается, хорошо справлялась со всеми задачами, которые могла решить компания. Один из высокопоставленных руководителей DeepMind даже зашел так далеко, что похвастался тем, что в стремлении создать ИИ, обладающий гибкостью и изобретательностью человеческого интеллекта (известного как общий искусственный интеллект, или AGI), «игра окончена».

Не дайте себя обмануть. Возможно, когда-нибудь машины станут такими же умными, как люди, а возможно, даже умнее, но игра еще далека от завершения. Предстоит еще проделать огромную работу по созданию машин, которые действительно смогут понимать и рассуждать об окружающем мире. Что нам сейчас нужно, так это меньше позерства и больше фундаментальных исследований.

Искусственный интеллект делает успехи — синтетические изображения выглядят все более и более реалистичными, а распознавание речи часто может работать в шумной среде — но нам, вероятно, еще предстоит пройти десятилетия до универсального искусственного интеллекта человеческого уровня, который сможет понимать истинный смысл статей и видео или справляться с неожиданными препятствиями и перерывами. Эта область сталкивается с теми же проблемами, на которые академические ученые (в том числе и я) указывали в течение многих лет: сделать ИИ надежным и заставить его справляться с необычными обстоятельствами.

Возьмите недавно прославленного Гато, предполагаемого мастера на все руки, и как он подписал изображение питчера, бросающего бейсбольный мяч (вверху). Три главных предположения системы были:

Бейсболист бросает мяч на бейсбольное поле. Мужчина бросает бейсбольный мяч в питчера на бейсбольном поле. Бейсболист с битой и ловец в грязи во время бейсбольного матча.

Первый ответ правильный, но два других ответа включают галлюцинации других игроков, которых не видно на изображении. Система понятия не имеет, что на самом деле изображено на изображении, за исключением грубых приближений, которые она делает на основе статистического сходства с другими изображениями. Любой фанат бейсбола поймет, что это питчер, который только что бросил мяч, а не наоборот. И хотя мы ожидаем, что кетчер и отбивающий находятся рядом, на изображении они явно не фигурируют.

Точно так же DALL-E 2 не мог отличить изображение красного куба на синем кубе от изображения синего куба на красном кубе. Новая система, выпущенная в мае этого года, не смогла отличить астронавта, едущего на лошади, от лошади, едущей на астронавте.

Когда системы создания изображений, такие как DALL-E 2, допускают ошибки, результат может быть забавным. Но иногда ошибки, допущенные искусственным интеллектом, приводят к серьезным последствиям. Недавно Tesla на автопилоте подъехала прямо к рабочему-человеку со знаком остановки посреди дороги, замедлившись только тогда, когда вмешался водитель-человек. Система могла распознавать людей самостоятельно (так они выглядели в тренировочных данных) и знаки остановки в их обычных местах (как они появлялись на тренировочных изображениях), но не могла замедлиться, столкнувшись с незнакомой комбинацией этих двух факторов. что поставило знак остановки в новое и необычное положение.

К сожалению, тот факт, что эти системы до сих пор не работают надежно и борются с новыми обстоятельствами, обычно скрывается за мелким шрифтом. Gato, например, хорошо справился со всеми задачами, о которых сообщал DeepMind, но редко, так же хорошо, как другие современные системы. GPT-3 часто создает беглую прозу, но с трудом справляется с элементарной арифметикой и настолько плохо владеет реальностью, что склонен создавать такие предложения, как «Некоторые эксперты считают, что поедание носка помогает мозгу выйти из измененного состояния как результат медитации». Однако беглый взгляд на недавние заголовки ничего не скажет вам ни об одной из этих проблем.