Prompt Engineering: Zero-shot CoT i Reflexion

0:00Patrząc na technikę Chain of Thoughts możesz pomyśleć, że przygotowanie przykładów,

0:04które będą przeprowadzać model przez konkretny schemat jest bardzo wymagające.

0:09Jest to oczywiście prawda, natomiast nic

0:11nie stoi na przeszkodzie, aby kolejne kroki generował sam model.

0:16Coś takiego może okazać się szczególnie

0:18przydatne w sytuacji, gdy nie mamy jasno określonego schematu, według którego

0:22chcemy się poruszać, a jednocześnie chcemy zwiększyć skuteczność działania modelu.

0:27Przykładem zadanie, które wymyśliłem na potrzeby tego filmu jest bardzo proste

0:31zadanie logiczne, z którym nawet GPT-4 nie jest w stanie sobie poradzić.

0:35Zadanie to polega na przekazywaniu sobie jabłek pomiędzy trzema osobami.

0:39Pomimo tego, że logika, którą tutaj mamy

0:41jest niesamowicie prosta, to na pytanie gdzie są teraz jabłka?

0:46GPT-4 udziela błędnej odpowiedzi.

0:48Okazuje się jednak, że jeżeli dodamy wyłącznie jedną frazę w postaci Think step

0:53by step, czyli myśl krok po kroku, to sprawi to, że model zamiast podając nam odpowiedź

0:58bezpośrednio rozbije rozwiązywanie tego zadania na mniejsze kroki.

1:03Tylko coś takiego w tym przypadku

1:04doprowadziło do uzyskania poprawnej odpowiedzi.

1:08Także w tej chwili moglibyśmy tak naprawdę

1:09zakończyć tę lekcję ze względu na to, że w pełni zaadresowaliśmy jej temat.

1:14Konkretnie mowa tutaj o technice Zero-Shot CoT, czyli w roszerzeniu Zero-Shot

1:19Chain of Thoughts, w przypadku którego to model generuje sobie ciąg myśli, którymi

1:24podąża i w ten sposób dochodzi do znacznie lepszego rozwiązania.

1:28Bardzo istotną ciekawostką jest tutaj

1:30fakt, że to określenie również możemy rozbudowywać.

1:33Konkretniej, jeżeli zajrzymy do tej oto publikacji, która pokazuje zachowanie

1:37modelu właśnie w przypadku Zero-Shot CoT, czyli konkretnie określenia Let's think

1:42step by step, to okazuje się, że możemy tę frazę nieco rozbudować i

1:47uzyskiwać w niektórych przypadkach znacznie lepsze wyniki.

1:50Rozbudowanie tej frazy polega na tym, aby dodać fragment mówiący o tym, że

1:54rozbijamy zadanie na mniejsze kroki, aby uzyskać poprawną odpowiedź.

1:58Choć wydaje się to bardzo banalne, a nawet

2:01brzmi jak bardzo oczywiste, to okazuje się, że w testach wypada całkiem dobrze.

2:06Tutaj możemy porównać sobie wyniki dla

2:08poszczególnych promptów i zobaczymy, że ten drugi prompt jest albo trochę lepszy,

2:13albo znacznie lepszy niż wcześniejsza wersja

2:16ale są także przykłady, w przypadku

2:17których to ta prostsza wersja radzi sobie lepiej.

2:20Oznacza to, że nie mówimy tutaj o jakiejś złotej frazie i niesamowitym prompcie, który

2:25odkrywa możliwości GPT-4, ale bardziej o jednej z technik, która może

2:30okazać się przydatna w niektórych sytuacjach.

2:32Warto o tym pamiętać i mieć to na uwadze przy projektowaniu własnych promptów.

2:37Korzystając z tego, że mamy jeszcze chwilę

2:38w tej lekcji, chciałbym pokazać także odwrócenie techniki Zero-Shot CoT.

2:43Mianowicie chodzi mi tutaj o sytuację, w której faktycznie mamy podaną błędną

2:47odpowiedź wygenerowaną przez model, a następnie zachęcamy go do tego, aby

2:51zweryfikował krok po kroku swoje rozwiązanie.

2:54Okazuje się, że coś takiego również ma bardzo pozytywny wpływ na zachowanie

2:58modelu i w tym przypadku również doprowadziło go do poprawnego rozwiązania.

3:03W tym wszystkim szczególnie istotne oraz

3:05nawet bardzo zastanawiające jest to, że podając tutaj zachęcenie do zweryfikowania

3:10rozwiązania nie wskazałem nawet tego, czy jest poprawne czy też nie.

3:14Model był w stanie samodzielnie odkryć

3:16luki w swoim rozumowaniu, a następnie podać poprawne rozwiązanie.

3:20Więcej na temat takiego zachowania możesz

3:22przeczytać w publikacji o nazwie Reflexion, która dokładnie opisuje

3:26zjawisko polegające na tym, że model jest w stanie samodzielnie zauważać swoje

3:30pomyłki i co więcej nierzadko wprowadzać poprawne rozwiązanie.

3:34W praktyce najważniejsze jest tutaj to, że

3:37nie musimy w żaden sposób sugerować, czy podane rozwiązanie jest poprawne, czy też

3:41nie oraz nawet tego, na jakie elementy ma zwrócić uwagę.

3:45Modele takie jak konkretnie GPT-4 są w

3:47stanie samodzielnie przeanalizować swoje rozwiązanie względem naszych początkowych

3:51wymagań i następnie w razie potrzeby wprowadzić wymagane zmiany.

3:56Jeżeli chodzi o technikę Zero-Shot Cot oraz Reflexion to było na tyle.

4:01Pamiętaj tylko proszę o tym, że możesz po

4:03nie sięgać w momencie, gdy model ma do rozwiązania np.

4:06zadanie logiczne bądź inne wymagające

4:08zadanie, z którym nie jest w stanie poradzić sobie za pierwszym razem.

4:12Tymczasem dzięki za uwagę i do usłyszenia w kolejnej lekcji.