Захоплення реальне. Навіть творці моделей генеративного ІІ, таких як ChatGPT та Bard, вражені тим, що вони збудували. Ці системи набувають нових, іноді несподіваних можливостей з кожним оновленням версії. Такий швидкий розвиток породжує настирливе питання: чи ми розуміємо взагалі, як працюють ці системи зараз? І чи не випередять вони нас найближчим часом?
Але більш серйозна проблема. Чи може машина колись розвинути справжній інтелект, який можна порівняти з нашим власним?
Що визначає сильний ІІ
Дослідники використовують термін “Загальний штучний інтелект” (Artificial General Intelligence, AGI) для опису систем, які відповідають людським когнітивним здібностям або перевершують їх. Також відома як “сильний ІІ”, вона полягає не просто в наявності більшого обсягу даних. Ця система AGI здатна планувати наперед. Вона навчається на основі досвіду. Вона розвивається самостійно.
Така система непросто вирішує завдання. Вона розуміє, чому вони виникають. Вона розробляє власні стратегії. Вона має самосвідомість.
Довгий час це вважалося науковою фантастикою. Ранні системи ІІ lacked гнучкості та здатності до незалежного навчання. Скептики вважали, що досягнення цього рівня знадобляться століття.
Цей погляд змінився. Нейронні мережі та генеративні моделі на основі трансформерів змінили правила гри.
Джеффрі Хінтон, британський дослідник у галузі ІІ, визнав свою помилку. «Мало хто вірив, що ці системи зможуть стати розумнішими за людей», — сказав він. «Більшість із нас, включаючи мене, думали, що це займе багато часу. Але це явно змінилося».
Стрибок GPT-4
Перехід від GPT-3.5 до GPT-4 був поступовим. Це стало сюрпризом. Команда дослідників Microsoft під керівництвом Себастьєна Бубека провела широке тестування моделі. Вони опублікували свої висновки у квітні 2023 року.
Їхній висновок? GPT-4 демонструє перші “іскри” загального штучного інтелекту.
Незважаючи на те, що це чиста мовна модель, вона продемонструвала помітні навички у різних галузях. Йдеться про абстракцію. Візуальні можливості. Програмування. Математика. Медиці. І право.
Вона навіть розуміє людські мотиви та емоції. Тести показали, що це не просто зіставлення шаблонів. Це значний стрибок у когнітивно-подібному виконанні завдань.
Пояснення власної поведінки
Однією з ключових ознак цього зсуву є здатність ІІ пояснювати власну поведінку.
«Важливим аспектом інтелекту є здатність пояснювати, чому була дана та чи інша відповідь», — зазначили Бубек та його колеги. І тому потрібна форма самосвідомості. Це також вимагає звернення до користувача.
Під час тестів GPT-4 пояснив, чому він переклав нейтральну португальську назву посади на чоловічу чи жіночу форму. Він пояснив, як завершив мелодійну послідовність. Це не були випадкові припущення. Модель могла довести логіку своїх виборів.
Дослідників також вразив її емпатія. При зіткненні зі сценаріями, що включають конфлікт чи нерозуміння між людьми, ІІ міг описати психічний стан залучених персонажів. Він визначав, де саме виникло непорозуміння.
Вона навіть пройшла випробування на креативність.
Чи потрібна свідомість?
Чи дійсно GPT-4 “розуміє” людську психологію? Чи має вона самосвідомість? Чи свідомістю?
Мабуть, ні. Фундаментальний механізм, як і раніше, ґрунтується на статистичній ймовірності. Моделі генерують текст або зображення на основі того, що найбільш точно відповідає їх навчальним даним.
Деякі вчені стверджують, що це повна відсутність інтелекту. Вони заявляють, що ці моделі просто сліпо дотримуються ймовірностей. Без розуміння, стверджують вони, справжнього інтелекту немає.
Пол Формоза, філософ технології в Університеті Маккуорі в Австралії, не погоджується.
“Дехто вважає, що системи ІІ ніколи не будуть по-справжньому інтелектуальними, тому що вони не розуміють, що роблять”, – пояснив Формоза. «Але прогрес у галузі ІІ свідчить про те, що інтелект непритомний можливий».
Практичний наслідок цього факту очевидний. Якщо система «нерозуміння» самонавчання дає ті самі результати, що й по-справжньому інтелектуальна система, наслідки для людей будуть ідентичними. Результат має таке значення, як і намір.
Проблема чорної скриньки
Існує ще один шар цієї загадки. Навіть розробники не до кінця розуміють, що відбувається усередині цих систем.
Вони не можуть точно сказати, чому ІІ набуває нових, несподіваних здібностей.
Сундар Пічаї, генеральний директор Google, назвав це «чорною скринькою». В інтерв’ю CBS він визнав, що вони не можуть точно сказати, чому ІІ каже те чи інше чи помиляється.
Як “мозок машини” думає, залишається загадкою. Як вона вчиться? Наскільки вона справді інтелектуальна.
Ми спостерігаємо, як розлітаються іскри. Але ми все ще не знаємо, що живить вогонь.
