Восхищение реально. Даже создатели моделей генеративного ИИ, таких как ChatGPT и Bard, поражены тем, что они построили. Эти системы приобретают новые, иногда неожиданные возможности с каждым обновлением версии. Такое быстрое развитие порождает назойливый вопрос: понимаем ли мы вообще, как работают эти системы сейчас? И не опередят ли они нас в ближайшее время?
Но вот более серьезная проблема. Может ли машина когда-либо развить настоящий интеллект, сопоставимый с нашим собственным?
Что определяет сильный ИИ
Исследователи используют термин «Общий искусственный интеллект» (Artificial General Intelligence, AGI) для описания систем, которые соответствуют человеческим когнитивным способностям или превосходят их. Также известная как «сильный ИИ», она заключается не просто в наличии большего объема данных. Настоящая система AGI способна планировать наперед. Она учится на основе опыта. Она развивается самостоятельно.
Такая система не просто решает задачи. Она понимает почему они возникают. Она разрабатывает собственные стратегии. Она обладает самосознанием.
Долгое время это считалось научной фантастикой. Ранние системы ИИ lacked гибкости и способности к независимому обучению. Скептики полагали, что для достижения этого уровня потребуются столетия.
Этот взгляд изменился. Нейронные сети и генеративные модели на основе трансформеров изменили правила игры.
Джеффри Хинтон, британский исследователь в области ИИ, признал свою ошибку. «Мало кто верил, что эти системы смогут стать умнее людей», — сказал он. «Большинство из нас — включая меня — думали, что это займет много времени. Но это явно изменилось».
Скачок GPT-4
Переход от GPT-3.5 к GPT-4 не был постепенным. Это стало сюрпризом. Команда исследователей Microsoft под руководством Себастьена Бубека провела обширное тестирование модели. Они опубликовали свои выводы в апреле 2023 года.
Их вывод? GPT-4 демонстрирует первые «искры» общего искусственного интеллекта.
Несмотря на то, что это чистая языковая модель, она продемонстрировала заметные навыки в различных областях. Речь идет об абстракции. Визуальных возможностях. Программировании. Математике. Медицине. И праве.
Она даже понимает человеческие мотивы и эмоции. Тесты показали, что это не просто сопоставление шаблонов. Это значительный скачок в когнитивно-подобном выполнении задач.
Объяснение собственного поведения
Один из ключевых признаков этого сдвига — способность ИИ объяснять собственное поведение.
«Важным аспектом интеллекта является способность объяснять, почему был дан тот или иной ответ», — отметили Бубек и его коллеги. Для этого требуется форма самосознания. Это также требует обращения к пользователю.
В ходе тестов GPT-4 объяснил, почему он перевел нейтральное португальское название должности в мужскую или женскую форму. Он объяснил, как он завершил мелодическую последовательность. Это не были случайные догадки. Модель могла обосновать логику своих выборов.
Исследователей также поразил ее кажущаяся эмпатия. При столкновении с сценариями, включающими конфликт или недопонимание между людьми, ИИ мог описать психическое состояние вовлеченных персонажей. Он определял, где именно возникло недопонимание.
Она даже прошла тесты на креативность.
Требуется ли сознание?
Так действительно ли GPT-4 понимает человеческую психологию? Обладает ли она самосознанием? Или сознанием?
Вероятно, нет. Фундаментальный механизм по-прежнему основан на статистической вероятности. Модели генерируют текст или изображения на основе того, что наиболее точно соответствует их обучающим данным.
Некоторые ученые утверждают, что это означает полное отсутствие интеллекта. Они заявляют, что эти модели просто слепо следуют вероятностям. Без понимания, утверждают они, настоящего интеллекта нет.
Пол Формоза, философ технологии в Университете Маккуори в Австралии, не согласен.
«Некоторые считают, что системы ИИ никогда не будут по-настоящему интеллектуальными, потому что они не понимают, что делают», — объяснил Формоза. «Но прогресс в области ИИ свидетельствует о том, что интеллект без сознания возможен».
Практическое следствие этого факта очевидно. Если система «непонимающего» самообучения дает те же результаты, что и по-настоящему интеллектуальная система, последствия для людей будут идентичными. Результат имеет такое же значение, как и намерение.
Проблема черного ящика
Существует еще один слой этой загадки. Даже разработчики не до конца понимают, что происходит внутри этих систем.
Они не могут точно сказать, почему ИИ приобретает новые, неожиданные способности.
Сундар Пичаи, генеральный директор Google, назвал это «черным ящиком». В интервью CBS он признал, что они не могут точно сказать, почему ИИ говорит то или иное или ошибается.
Как «мозг машины» думает, остается загадкой. Как она учится. Насколько она действительно интеллектуальна.
Мы наблюдаем, как разлетаются искры. Но мы все еще не знаем, что подпитывает огонь.
