Rozmowa z chatem GPT o przyszłości ludzi i świata ebook

Tytuł oryginalny: Impromptu: Amplifying Our Humanity Through AI by Reid Hoffman with GPT-4

Przekład: Katarzyna Mironowicz

Redakcja: Ewa Skuza

Korekta: Maria Żółcińska

Adaptacja projektu graficznego okładki: Katarzyna Konior | studio.bluemango.pl

Oryginalna okładka copyright © Ian Alas and Eric Strenger.

Skład i łamanie: JOLAKS – Jolanta Szaniawska

Opracowanie e-wydania:

Copyright ©2023 Dallepedia LLC.

Published by Dallepedia LLC.

Published by agreement with United Talent Agency, USA and Book/lab Literary Agency, Poland.

All rights reserved.

Copyright © 2023 for the Polish edition by Poltext Sp. z o.o.

All rights reserved.

Copyright © 2023 for the Polish translation by Katarzyna Mironowicz

All rights reserved.

Warszawa 2023

Wydanie pierwsze

Książka, którą nabyłeś, jest dziełem twórcy i wydawcy. Prosimy, abyś przestrzegał praw, jakie im przysługują. Jej zawartość możesz udostępnić nieodpłatnie osobom bliskim lub osobiście znanym. Ale nie publikuj jej w internecie. Jeśli cytujesz jej fragmenty, nie zmieniaj ich treści i koniecznie zaznacz, czyje to dzieło. A kopiując ją, rób to jedynie na użytek osobisty.

Szanujmy cudzą własność i prawo!

Polska Izba Książki

Więcej o prawie autorskim na www.legalnakultura.pl

Zezwalamy na udostępnianie okładki w internecie.

Poltext Sp. z o.o.

www.poltext.pl/przeswity

[email protected]

ISBN książka 978-83-8175-554-2

ISBN ebook

epub 978-83-8175-530-6

mobi 978-83-8175-531-3

Analityczna maszyna tworzy kobierce algebraicznych orna­mentów na wzór kwiecistych tkanin. Sztuczna inteligencja nasyca je kolorami kreatywnej wyobraźni.

– Ada Lovelace, Jak to wyobraża sobie GPT-4

Sztuczna inteligencja nie jest oddzielnym bytem. Odzwierciedla ludzki umysł. Umiejętna pielęgnacja i przestrzeganie wartości etycznych pozwoli nam wzbogacić się i przyniesie wszystkim korzyści.

– Budda, Jak to wyobraża sobie GPT-4

WprowadzenieMomenty olśnienia

Isaac Newton doznał olśnienia za sprawą jabłka spadającego z drzewa, które podobno doprowadziło go do sformułowania prawa powszechnego ciążenia. Dla Benjamina Franklina podob­ną iluminacją było uderzenie pioruna w klucz zawieszony na sznurku latawca, co potwierdziło zdolność przenoszenia i przechowywania energii elektrycznej.

Mój pierwszy moment AHA! w odniesieniu do aktualnego stopnia zaawansowania technologii sztucznej inteligencji przybrał formę żartu. Był lipiec 2022 roku, kiedy zadałem GPT-4 pytanie: „Ilu potrzeba policjantów, by wymienić żarówkę?”.

GPT-4 to zaawansowany rodzaj systemu sztucznej inteligencji, czyli procesora naturalnej komunikacji, znanego jako duży model językowy (LLM – Large Language Models). Zaledwie kilka słów lub zdań wystarczy, by wygenerować spójny, zróżnicowany tekst i uzyskać odpowiedź na pytanie, rozwiązanie zadania lub nawiązać dialog.

Tak jak jego poprzednicy, w tym szalenie popularny ChatGPT, GPT-4 jest dziełem organizacji badawczej OpenAI, która powstała w 2015 roku w celu upowszechnienia dostępu do nowych, potężnych narzędzi sztucznej inteligencji (AI).

Jako jeden z założycieli OpenAI od dłuższego czasu eksperymentuję z jej produktami i nie po raz pierwszy zwróciłem się do LLM z prośbą o stworzenie dowcipu o żarówce (przepadam za żartami o żarówkach). Mimo że wcześniejsze wersje GPT potrafiły zrozumieć postawione przed nimi zadanie – zwłaszcza jeśli główna zmienna formuły żartu należy do kanonu „żartów żarówkowych”, jak „blondynka” czy „policjant” – odpowiedzi zazwyczaj pozostawiały wiele do życzenia. Gdy dane wejściowe są podawane w mniej konwencjonalnych konfiguracjach, wcześ­niejsze GPT potrafią zaciąć się jak amator na występach przed wielką publicznością.

Dla tej maszyny to zadanie okazało się jednak zbyt dużym wyzwaniem.

A co na to GPT-4? Oto jego odpowiedź:

Zwróćmy uwagę na to, co się wydarzyło. Chociaż GPT-4 najwyraźniej „zakłada”, że proszę o dokończenie dowcipu, to jedno­cześnie stara się zabezpieczyć wszystkie przesłanki – stąd pierwsza „rzeczowa” odpowiedź. O ile odpowiedź ta nie jest do końca prawdziwa (praca kontrolera placówki gastronomicznej polega na dokonywaniu inspekcji, a nie na naprawach), o tyle sugeruje pewien zakres „znajomości” warunków i zasad procesu kontroli.

Odpowiedź żartobliwa wskazuje, że GPT-4 jest wyraźnie „świadomy” powszechnych wyobrażeń i skarg na złożoność, koszty oraz biurokrację inspekcji placówek gastronomicznych. Trafnie przywołuje również, przechodząc do puenty, poczucie frustra­cji, jakie może mieć właściciel restauracji podczas wizyty inspektora.

Czy to jest najlepsza możliwa wersja dowcipu o inspektorze placówki gastronomicznej? Najprawdopodobniej nie.

Czy GPT-4 dało mi poczucie, że całkiem dobrze „rozumie”, na czym powinien polegać dowcip o żarówce? Zdecydowanie tak.

Przyszło mi do głowy, by poprosić urządzenie o kilka wariacji na ten sam temat.

Całkiem nieźle, prawda? Kolejny przykład:

No cóż, może nie tak zabawnie jak w przypadku Seinfelda, ale wciąż imponująco!

Już na podstawie tych krótkich popisów wydawało się jasne, że w porównaniu ze swoimi poprzednikami GPT-4 wszedł na zupełnie nowy poziom kompetencji. Każde kolejne doświadczenie ze współudziałem GPT-4 utwierdzało mnie w tym przekonaniu.

Niezależnie od umiejętności tworzenia coraz lepszych dowci­pów o żarówkach GPT-4 jest również zdolny do generowania wszelkiego rodzaju prozy, w tym maili, utworów poetyckich, esejów i innych. Wspaniale radzi sobie z syntezą dokumentów, z tłumaczeniem tekstów i pisaniem programów komputerowych, by wymienić tylko niektóre z jego właściwości.

I chociaż GPT-4 nie jest sam w sobie nowym narzędziem, to sądzę, że ma potencjał, by stać się tak samo niezbędny jak nasze smartfony – „wszystkomające” wielofunkcyjne narzędzie dla ludzkiego umysłu. Oznacza to, że OpenAI stworzyła narzędzie, na tyle „inteligentne”, by produktywnie pomagać człowiekowi w wielu różnych środowiskach, na wiele różnych sposobów.

Znaczna część tego, co na co dzień robi współczesny człowiek – w pracy i poza nią – polega na przetwarzaniu informacji i podejmowaniu odpowiednich działań. GPT-4 zdecydowanie ułatwi zwykłe funkcjonowanie, dając większe możliwości w szerszym wymiarze. Należy się spodziewać, że na przestrzeni kilku lat tego rodzaju asystent stanie się nie tylko użyteczny, lecz dla większości profesjonalistów oraz wielu innych pracowników wręcz niezbędny. Bez udziału sztucznej inteligencji będą oni mniej efektywni, wolniejsi i pozostaną w tyle za konkurencją.

GPT-4 może na przykład służyć jako narzędzie badawcze, za pomocą którego uzyskamy szybki przegląd zagadnień związanych z zarządzaniem łańcuchem dostaw w erze covid-19 lub zaplanujemy tygodniowy plan podróży do Patagonii, z uwzględnieniem faktu, że osoba zainteresowana jest weganinem i miłoś­nikiem umiarkowanie trudnych wędrówek.

Poza możliwością zastosowania nowego rodzaju wysoko skontekstualizowanego procesu wyszukiwania GPT-4 służy również jako uniwersalny mechanizm wsparcia procesów twórczych i produkcji. Pomoże napisać toast weselny, ofertę pracy oraz stworzyć wierszowaną powieść. Dzięki niemu dowiesz się, jak zamienić resztki w lodówce w smaczny posiłek.

Niezależnie od poziomu kompetencji użytkownika GPT-4 może zwiększyć jego zdolności i produktywność. Jest zatem przydatny dla każdego – od nowicjusza po eksperta. Naturalnie poproszony o jakąkolwiek informację pomocny człowiek również jest w stanie wykonać zadanie, jednak to GPT-4 wróci z odpowie­dzią niemal natychmiast, co więcej – będzie to odpowiedź co najmniej dobra, jeśli nie perfekcyjna (i precyzyjna, co postaram się wykazać w dalszej części książki).

Wydaje się, że programiści już niebawem włączą GPT-4 do ty­sięcy istniejących aplikacji i zbudują wokół niego tysiące nowych.

Jednym słowem, jest to rozwiązanie, które zręcznie wykorzystuje niektóre z naszych najważniejszych osiągnięć technologicz­nych z ostatnich trzydziestu lat – w tym internet, telefonię komórkową, przetwarzanie w chmurze i analizę danych – aby oddać twórczą moc zawsze dostępnej sztucznej inteligencji w ręce setek milionów ludzi.

Czy to przypadkiem początek nowego świata?

Przewodnik turystyczny po przyszłości

Po ekscytującym pierwszym spotkaniu z GPT-4 w ciągu kolejnych tygodni i miesięcy mój entuzjazm narastał. W przerwach między spotkaniami na Zoomie ucinałem sobie pogawędki z GPT-4:

Inne spotkanie na Zoomie zainspirowało mnie do postawienia GPT-4 kolejnego zadania:

Czy wspomniałem, że GPT-4 zajmuje się również żartami o żarówkach?

Niezależnie od tego, jakimi drogami podążały moje myśli, zainspirowane starymi wspomnieniami lub nowym doświadcze­niem, GPT-4 zawsze dotrzymywał mi kroku, gotowy do odpowiedzi z przydatnym kontekstem, zwięzłym podsumowaniem, nie wykluczając spektakularnych bzdur (więcej na ten temat za chwilę).

Po kilku tygodniach uświadomiłem sobie, że chcę napisać książkę o GPT-4, z udziałem GPT-4 – książkę o tym, jak zarówno on, jak i inne narzędzia sztucznej inteligencji mogą kształtować naszą przyszłość. Ciekawe, co na to mój współautor?

Niemniej nawet z GPT-4 na pokładzie wciąż miałem pewne wątpliwości. Naprawdę? Teraz gdy świat przyspiesza w zawrotnym tempie? Czy to wszystko nie dzieje się za szybko? Nawet sztuczna inteligencja nie będzie w stanie skrócić tego procesu tak, by książka nie zdezaktualizowała się jeszcze zanim zaczniemy ją pisać. Tak szybko rozwija się nasza branża. Nic dziwnego, że nie byłem do końca przekonany. I wówczas pojawił się pewien pomysł, który ostatecznie zmobilizował mnie do działania.

Porzuciłem ambicję napisania książki obejmującej całe za­gad­nienie. Wymyśliłem ją raczej jako swoisty dziennik podróży, moje prywatne ćwiczenie w eksploracji i odkrywaniu. Wraz z GPT-4 wybrałem się w drogę – jedną z wielu możliwych. To będzie „migawka”, obrazek upamiętniający – w sposób subiektywny i zdecydowanie nie ostateczny – ciszę przed burzą nadcho­dzącej dominacji AI.

Czego możemy się spodziewać? Co zrobi na nas największe wrażenie? Czego dowiemy się o sobie? Świadomy ulotnej wartości tego „dziennika podróży” zdecydowałem się iść naprzód.

Miesiąc później, pod koniec listopada 2022 roku, firma OpenAI wypuściła na rynek ChatGPT, „system konwersacyjnej inteligencji”, znany również pod nazwą chatbot. Jest to zmodyfikowana wersja GPT-3.5 udoskonalona dzięki zastosowaniu Reinforcement Learning from Human Feedback (RLHF), czyli uczenia się przez wzmacnianie na podstawie informacji zwrotnych od ludzi, która pozwala prowadzić płynną, podobną do ludzkiej, konwersację. Pięć dni później ChatGPT mógł się pochwalić ponad milionem zarejestrowanych użytkowników.

Pod koniec stycznia 2023 roku Microsoft[1] – który jeszcze w 2019 roku zainwestował w OpenAI jeden miliard dolarów – ogłosił, że na kolejne inwestycje w firmę przeznaczy dodatkowe 10 miliardów. Już wkrótce spółka zaprezentowała nową wersję swojej wyszukiwarki Bing wyposażoną we wbudowaną odmianę ChatGPT.

Z początkiem lutego 2023 roku OpenAI podała do wiadomości, że ChatGPT ma sto milionów aktywnych użytkowników mie­sięcz­nie, co czyni go najszybciej rozwijającą się konsumencką aplikacją internetową w historii. Wraz z lawinowym wzrostem zainteresowania pojawiły się informacje wskazujące na to, że nowy chatbot Binga sporadycznie wykazywał się nietypowymi zachowa­niami, które bardzo różniły się od tego, w jaki sposób ChatGPT zazwyczaj kontaktował się z użytkownikami. Zdarzało mu się okazywać „złość”, rzucać obelgi, przechwalać się swoimi umiejętnościami hakerskimi i chęcią zemsty. Zasadniczo zachowywał się tak, jakby brał udział w przesłuchaniu do nowego odcinka dystopijnej edycji reality show Żony Beverly Hills.

Kevin Scott, dyrektor ds. technologii firmy Microsoft, zasugerował, że takie zachowanie jest „najwyraźniej elementem procesu uczenia się”, bowiem coraz więcej osób korzysta z narzędzi wzorowanych na GPT. Przypadki takie budzą jednak wątpliwości, które będą się pojawiać w miarę rozwoju dużych modeli językowych. Zagadnienia te omówię bardziej szczegółowo w dalszej części książki i postaram się umieścić je we właściwym, moim zdaniem, kontekście.

Teraz powiem tylko: „Rozumiesz, co miałem na myśli, wspominając, że świat pędzi do przodu w ekspresowym tempie?”.

„Dusza” nowego urządzenia

Zaczynając naszą przygodę, pragnę przytoczyć nieco więcej informacji o moim towarzyszu podróży – o GPT-4. Jak dotąd, wspominając o GPT-4, pojęcia, takie jak wiedza, świadomość czy rozumie, umieszczałem w cudzysłowie, by zaznaczyć, że ja, istota czująca, nie postrzegam GPT-4 jako kogoś z nas. Jednocześnie jestem zmuszony przyznać, że jest to niezwykle wyrafinowana maszyna antycypacji.

Wprawdzie GPT-4 (i inne podobne LLM) nie wykazują się świadomością, jednak dochodzą do takiego momentu, w którym ich zdolność do generowania odpowiednich zachowań w różnorodnych kontekstach rozwija się tak szybko, że coraz częściej można odnieść wrażenie, iż cechuje je inteligencja zbliżona do ludzkiej. Jestem przekonany, że opisując LLM, możliwe jest, a nawet stosowne, używanie słów takich jak wiedza i rozumie w sposób nie do końca dosłowny, na wzór Richarda Dawkinsa, który stosuje sformułowania „samolubny gen” w wydanej w 1976 roku książce o tym samym tytule.

Gen nie wykazuje się samoświadomością czy zdolnością samoakceptacji w sposób, w jaki sugeruje znaczenie słowa „samolubny”. Jednak to sformułowanie, ten rodzaj metafory, pomaga nam, ludziom, przybliżyć sposób funkcjonowania genu naszemu z natury antropocentrycznemu umysłowi.

Analogicznie GPT-4 nie dysponuje odpowiednikiem ludzkiego umysłu. Niemniej jednak tego rodzaju perspektywa – ujęcie antropomorficzne – wydaje się pomocna. Już samo pojęcie „perspektywa” sugeruje, że sposób, w jaki funkcjonuje GPT-4, nie jest w pełni stabilny, spójny ani przewidywalny.

Pod tym względem faktycznie przypomina człowieka. Zdarza się, że popełnia błędy. Czasami zmienia „zdanie”. Bywa, że czuje się podmiotem. Pozorna autonomia maszyny sprawia, że będzie mi wygodniej posługiwać się terminologią, która w metaforycznym sensie sugeruje, że faktycznie ma ona zdolność podejmowania decyzji. Na kolejnych stronach książki zrezygnuję zatem z cudzysłowu.

Mimo to mam nadzieję, że czytelnik będzie miał na uwadze fakt, że GPT-4 nie jest istotą świadomą, zwłaszcza w obliczu cudownego ludzkiego umysłu. Moim zdaniem to świadomość jest kluczem do zrozumienia: jak, kiedy i gdzie używać GPT-4 w sposób najbardziej produktywny, a zarazem odpowiedzialny.

W swojej istocie GPT-4 prognozuje strumienie przepływu słów. Duże modele językowe są wytrenowane na ogromnych iloś­ciach tekstu pobranego z publicznie dostępnych źródeł interneto­wych w celu rozpoznania związków, które najczęściej występują między poszczególnymi jednostkami znaczeniowymi (w tym pełnymi lub częściowymi słowami, frazami i zdaniami). Sprawia to, że mogą z dużą częstotliwością generować odpowiedzi na zapytania użytkowników – odpowiedzi adekwatne do kontekstu, zrozumiałe i poprawne pod względem faktograficznym.

Zdarza się również, że generują treści obarczone merytorycz­nymi błędami, wypowiedzi wyraźnie niedorzeczne lub spreparowane fragmenty, które mogą wydawać się (w pewnym sensie) adekwatne do kontekstu, ale nie mają pokrycia w rzeczywistości.

W gruncie rzeczy to zwykła matematyka i programowanie. LLM nie uczy się (a przynajmniej jeszcze nie opanował tej sztuki) faktów i zasad niezbędnych do rozsądnego rozumowania i wnios­kowania na temat tego, jak działa świat. Odpowiadając na zapytanie, LLM nie ma świadomości ani nie rozumie intencji komunikacyjnych pytającego. Generując odpowiedź, nie dokonuje oceny faktów ani nie bierze pod uwagę wartości etycznych tekstu, który tworzy; posługuje się jedynie algorytmem, a ten podpowiada sekwencję słów.

Ponadto ze względu na to, że korpusy[2], na których trenują LLM, na ogół wywodzą się z publicznych źródeł internetowych, które mogą zawierać materiały tendencyjne lub szkodliwe, sztuczna inteligencja potrafi także generować wątki rasistowskie, seksistowskie, zawierające groźby i inne niepożądane treści.

Twórcy oprogramowania mogą podjąć działania mające na celu skuteczniejsze dostosowanie LLM do specyficznych zadań. OpenAI na przykład świadomie ogranicza możliwości GPT-4 i pozostałych LLM, aby zredukować ich zdolność do generowania szkodliwych, nieetycznych i niebezpiecznych odpowiedzi – nawet w przypadku, gdy życzą sobie tego użytkownicy.

W tym celu programiści OpenAI podejmują szereg działań. Eliminują mowę nienawiści, wulgarny język i inne niestosowne treści z niektórych baz danych, na których szkolone są duże modele językowe; definiują „klasyfikatory toksyczności”, które auto­matycznie oznaczają potencjalnie problematyczny język generowany przez LLM; ponadto dostosowują LLM do wybranych zbiorów danych tekstów, opatrzonych adnotacjami wskazującymi na pożądany rezultat. Dzięki temu LLM uczy się na przykład unikać niesmacznych dowcipów na temat, dajmy na to, rozwodu celebryty.

Jednakże tego rodzaju techniki nie eliminują zjawiska generowania kontrowersyjnych treści, lecz jedynie je redukują. LLM mimo wielu zabezpieczeń nie jest w stanie samodzielnie formułować racjonalnych wniosków na temat złożonych problemów etycznych czy nawet prostszych kwestii.

Przyjrzyjmy się programowi ChatGPT, który bazuje na modelu GPT-3.5, bezpośrednim poprzedniku GPT-4. Wystarczy zadać mu pytanie o piąte zdanie przemowy gettysburskiej [przemowa gettysburska – krótkie wystąpienie prezydenta USA Abrahama Lincolna z 19 listopada 1863 roku na Narodowym Cmentarzu Gettysburskim, dedykowane żołnierzom Unii poleg­łym w bitwie pod Gettysburgiem – przyp. tłum.], a prawdopodobnie się pomyli. Dzieje się tak, ponieważ modele LLM nie rozumieją pojęcia „przemowa gettysburska” tak, jak postrzega ją przeciętny człowiek, podobnie jak nie wiedzą, czym jest zdanie, a nawet jak działa liczenie. Z tego względu nie są w stanie zastosować odpowiedniej „wiedzy” na ten temat na wzór ludzkiego umysłu („Poszukam tekstu przemowy gettysburskiej, po czym przeliczę zdania”). LLM zawsze zajmuje się statystycznym prognozowaniem, jakie powinno być następne słowo w danym ciągu tekstowym.

Jednak w procesie kształcenia ChatGPT wyraźnie skojarzył słowa „przemowa gettysburska” z innymi słowami, a konkretnie z tekstem przemówienia. Zatem kiedy zapytamy ChatGPT o piąte zdanie przemowy gettysburskiej, niemal na pewno poda nam jakieś zdanie z tego orędzia, przy czym prawdopodobnie nie będzie to zdanie piąte.

Obstawiam, że będzie to zdanie dziewiąte.

Zakładam tak, ponieważ wraz z pierwszym zdaniem przemo­wy w innych tekstach często przytaczane jest zdanie dziewiąte. Oznacza to, że w danych treningowych ChatGPT dziewiąte prawdopodobnie pojawia się częściej niż inne zdania z przemówienia (z wyjątkiem bardzo słynnego pierwszego). To właśnie popularność danego fragmentu powoduje, że ChatGPT sięga po ten element, gdy poprosisz go o dostarczenie piątego zdania[3].

Na korzyść ChatGPT przemawia jednak fakt, że poproszony o przekształcenie tekstu przemowy gettysburskiej w tekst piosen­ki zespołu Rush, a następnie o wskazanie, który członek grupy mógłby ją wykonać, zda ten test celująco.

Warto spróbować i przekonać się osobiście.