„Patrz, jak AI zmyśla”
Dlaczego AI zmyśla i jak temu zapobiec
Odcinek 0.3 kursu AI SKILL. Prowadzi Grzegorz Wysocki, praktyk AI i CEO agencji emedia.
O czym jest ten odcinek
AI zmyśla, gdy brakuje mu informacji: zamiast zostawić puste miejsce, zgaduje i podaje zgadywankę tym samym spokojnym tonem co prawdę. Zapobiegasz temu, opisując zadanie tak dokładnie, żeby nie zostawiło żadnej otwartej ścieżki, a tam, gdzie AI ma wybierać, dając mu zamkniętą listę.
AI bez informacji nie milknie, tylko zgaduje, i robi to pewnym tonem. To zjawisko nazywa się halucynacją. W odcinku widzisz je na żywo na prawdziwym przykładzie i uczysz się odróżniać pytanie z dziurą od zadania opisanego tak, żeby nie zostawiło AI żadnej otwartej ścieżki.
Czego się nauczysz
- Rozpoznasz, kiedy AI zgaduje, zamiast wiedzieć.
- Nazwiesz to zjawisko po imieniu: zmyślanie, czyli halucynacja AI.
- Zamienisz pytanie z dziurą na zadanie, które nie zostawia AI pola do zgadywania.
Pytania o ten temat
Co to jest halucynacja AI?
Halucynacja to sytuacja, w której AI podaje jako fakt coś, czego nie wie: nazwę, datę, liczbę albo źródło. Dzieje się tak, gdy brakuje mu informacji, bo czat woli zgadnąć niż zostawić lukę. W kursie SKILL mówimy na to krócej: AI zmyśla.
Czy ChatGPT i Claude też zmyślają?
Tak, każdy czat AI może zmyślać, także w płatnych wersjach. Ryzyko rośnie, gdy prosisz o tekst bez faktów albo o nazwy miejsc, przepisy i liczby. Maleje, gdy podajesz komplet danych i każesz AI napisać, czego nie wie.
Jak sprawdzić, czy AI nie zmyśla?
Zacznij od rzeczy, które znasz najlepiej z własnej pracy, bo tam zmyślenie wyłapiesz od razu. Każdą nazwę, datę, kwotę i link sprawdź w źródle, zanim przekażesz je dalej. Pomaga też prośba, żeby AI przy każdej informacji pokazało, skąd ją ma.
Co dalej
- Jest na to sposób w dwóch zdaniach, a pokazuje go odcinek o tym, jak sprawić, żeby AI przyznało, że nie wie.
- Gdy odpowiedź już masz, przyda się odcinek o tym, jak sprawdzić odpowiedź AI, kiedy się myli.
- Zadanie bez otwartej ścieżki ustawisz raz na stałe w odcinku o tym, jak zautomatyzować cotygodniowy raport z AI.
Poprzedni odcinek: Co AI już dziś zrobi za Ciebie, a czego nie. Następny odcinek: Przestań pisać to samo co piątek.
To odcinek kursu AI SKILL: krótkie odcinki, zadanie na minutę pod każdym i praca na Twoich własnych sprawach, w ChatGPT albo Claude. Zobacz cały kurs i dołącz do grupy założycielskiej.
Notatki do odcinka
Jak to zrobić krok po kroku
Krok 1. Rozpoznaj pytanie z dziurą
Pytanie „Ile farby potrzebuję do pokoju?” nie mówi AI nic o pokoju, więc dostajesz ogólną instrukcję i przykład dla wymyślonego pokoju o powierzchni 20 metrów. Zanim wyślesz prośbę, przeczytaj ją jak ktoś obcy i zaznacz, czego musiałby się domyślić. Każda taka luka to miejsce, w którym AI zgadnie.
Krok 2. Opisz zadanie bez otwartej ścieżki
Dopisz wszystkie dane, które znasz: wymiary, liczby, warunki i to, co ma wyjść na końcu. Jak w zadaniu z matematyki, w którym zabrakło jednego elementu, wynik bez pełnych danych może nie mieć sensu albo mieć wiele odpowiedzi.
Krok 3. Daj zamkniętą listę i sprawdź to, co znasz
Gdy AI ma coś wybrać, podaj mu listę możliwych odpowiedzi i zabroń wychodzenia poza nią. Każdą datę, kwotę i nazwę w odpowiedzi porównaj z tym, co wiesz z własnej pracy. Pewny ton niczego nie dowodzi.
Przykład z mojej pracy
Sztuczna inteligencja zmyśliła mi w trzech różnych projektach i za każdym razem zrobiła to inaczej. W aplikacji do rozpoznawania grzybów wymyślała gatunki, których w Polsce nie ma, a w planerze wakacji dopisała restauracje w Lublinie, które nie istnieją. Do artykułu o nowych zasadach reklamy dodała urząd, którego nie ma, i termin na odwołanie. Wszystkie trzy teksty brzmiały wiarygodnie. W aplikacji do grzybów pomogło dopiero to, że AI dostało zamkniętą listę gatunków, z której wybiera.
Najczęstsze błędy
- Zadawanie AI pytania tam, gdzie potrzebne jest zadanie z kompletem danych, i branie ogólnej odpowiedzi za konkretną.
- Uznawanie odpowiedzi za prawdziwą tylko dlatego, że brzmi pewnie i fachowo.
- Proszenie AI o tekst o firmie, osobie albo przepisie bez podania faktów, z których ma korzystać.