Amazon po cichu usunął generowane przez sztuczną inteligencję streszczenia wideo serii Fallout z Prime Video po powszechnej krytyce dotyczącej nieścisłości w faktach. Funkcja, którą firma określiła mianem „przełomu”, okazała się zawodna w praktyce, co podkreśla ciągłe wyzwania związane z zastosowaniem generatywnej sztucznej inteligencji do złożonych zadań podsumowywania treści.
Nieudane uruchomienie
W listopadzie Amazon ogłosił notatki AI do programów telewizyjnych, pozycjonując je jako rozwiązanie dla fanów, którzy muszą odświeżyć pamięć między sezonami. Jednak pierwsze uruchomienie szybko ujawniło ograniczenia. Widzowie i publikacje o grach, takie jak GamesRadar, podają, że streszczenie Fallouta zniekształciło kluczowe ramy czasowe o około 120 lat i błędnie opisało główny punkt fabuły pierwszego sezonu.
„Ta funkcja została okrzyknięta przełomem, ale nie przeszła nawet podstawowego sprawdzenia faktów” – mówi jeden z dziennikarzy technologicznych, który relacjonował tę historię.
Ten błąd nie był odosobnionym przypadkiem. Podsumowania zostały utworzone przy użyciu zautomatyzowanego procesu, który obejmował analizę AI punktów fabuły, wybór segmentów i lektora generowanego przez sztuczną inteligencję. Należy zauważyć, że w procesie tym nie było nadzoru człowieka ani sprawdzania faktów, co doprowadziło do niepowodzenia PR.
Dlaczego to ma znaczenie
Incydent uwydatnia obecny stan generatywnej sztucznej inteligencji: może ona dawać imponujące wyniki, ale często kosztem dokładności. Duże modele językowe są podatne na halucynacje i błędne interpretacje, co czyni je zawodnymi w przypadku zadań wymagających precyzyjnej wiedzy. Doświadczenia Amazona z notatkami Fallout służą jako przestroga dla innych firm, które chcą zintegrować sztuczną inteligencję bez wystarczających zabezpieczeń.
Chęć wdrażania narzędzi AI, nawet w niedoskonałej formie, napędzana jest przez agresywną konkurencję w sektorze technologicznym. Amazon podwoił swoje wysiłki w zakresie generatywnej sztucznej inteligencji i choć robienie notatek może powrócić, to niepowodzenie uwydatnia ryzyko przedkładania szybkości nad jakość. Incydent wzmacnia również istniejący sceptycyzm wśród kreatywnych profesjonalistów, którzy są wrogo nastawieni do generatywnej sztucznej inteligencji, obawiając się utraty miejsc pracy i degradacji treści generowanych przez ludzi.
Przyszłość AI Notatki
Amazon nie skomentował, czy notatki wideo AI zostaną ponownie wydane w poprawionej formie. Firma nadal angażuje się w innowacje w zakresie sztucznej inteligencji, ale ten epizod pokazuje, że technologia ta nie jest jeszcze gotowa do powszechnego stosowania bez znaczącej poprawy rzeczywistej dokładności. Fiasko Fallouta przypomina, że nawet przy miliardach dolarów zainwestowanych w rozwój sztucznej inteligencji kontrola ludzka pozostaje kluczowa dla dostarczania niezawodnych i wiarygodnych treści.
