Prezenterka telewizyjna Kim Kardashian publicznie oświadczyła, że używanie ChatGPT do nauki do egzaminów prawniczych wielokrotnie skutkowało błędnymi odpowiedziami i przyczyniło się do niepowodzenia w kilku testach. Do wyznań doszło podczas niedawnego wywiadu dla magazynu Vanity Fair, w którym Kardashian nazwała chatbota AI „przyjacielem o dwóch twarzach”, na którego często krzyczy za podawanie fałszywych informacji.
Rzeczywistość pomocy AI w nauce
Kardashian, która niedawno po trzech poprzednich niepowodzeniach zdała pierwszy egzamin prawniczy dla studentów (tzw. „baby bar”), wyjaśniła, że zalecenia ChatGPT konsekwentnie okazywały się niewiarygodne. Opowiedziała o przypadkach, gdy chatbot podał jej błędne informacje, co doprowadziło do oblania egzaminów. W jednym szczególnie dziwacznym przypadku krążyły plotki, że sztuczna inteligencja usprawiedliwia swoje błędy, twierdząc, że „uczy ją ufać swoim instynktom”.
To uwydatnia krytyczny problem z obecnymi modelami języków sztucznej inteligencji: chociaż mogą one generować przekonujący tekst, są podatne na nieścisłości w zakresie faktów. Poleganie na nich w przypadku tak ważnych przygotowań akademickich, jak egzaminy na studiach prawniczych, może przynieść efekt przeciwny do zamierzonego.
Ironia „lekcji” AI
Samousprawiedliwianie się chatbota – że nauczył Kardashian ufać swojej wiedzy – brzmi mrocznie ironicznie. Podkreśla fakt, że narzędzia sztucznej inteligencji powinny być wykorzystywane jako uzupełnienie uczenia się, a nie jako substytut krytycznego myślenia i recenzowanych informacji.
Ujawnienie informacji i kontekst
Warto dodać, że spółka-matka CNET, Ziff Davis, jest obecnie uwikłana w spór prawny z OpenAI, zarzucając jej naruszenie praw autorskich związanych ze szkoleniem jej systemów AI. Ten kontekst nie unieważnia doświadczenia Kardashian, ale przypomina nam, że krajobraz technologiczny jest złożony, a motywacje nie zawsze są neutralne.
Doświadczenia Kardashiana służą jako przestroga: narzędzia AI, takie jak ChatGPT, są potężne, ale nie nieomylne. Studenci i profesjonaliści, którzy na nich polegają, powinni postępować sceptycznie i uważnie.
