Osobisty Avatar AI No-code: Tagowanie

0:00W tej lekcji zajmiemy się rozbudowaniem

0:01mechanizmu zapamiętywania o generowanie dodatkowych tagów.

0:05Jest to jedna z technik mająca na celu

0:07zwiększenie skuteczności naszego avatara, aczkolwiek w pierwszej kolejności zależy

0:12mi na tym, aby było dla Ciebie jasne, dlaczego w ogóle chcemy to zrobić.

0:16Mianowicie wynika to z mechanizmu, który

0:18będziemy wykorzystywać do generowania odpowiedzi.

0:21Szczegółowo będziemy przechodzić sobie przez niego w następnych lekcjach.

0:24Natomiast w tym momencie musisz wiedzieć,

0:26że gdy użytkownik wyśle wiadomość, nasz scenariusz będzie zamieniać ją na vector,

0:31analogicznie jak to mieliśmy w tym przypadku.

0:33Jednak w tej sytuacji nie będziemy zapisywać jej w Pinecone.

0:37Aczkolwiek oczywiście możemy w zależności

0:39od tego, jak chcemy zaprojektować nasz avatar.

0:41W każdym razie w tym przypadku Embedding samej wiadomości od użytkownika, zostanie

0:46wykorzystany po to, aby z pomocą Pinecone znaleźć podobne vectory.

0:50Inaczej mówiąc, jeżeli wiadomość od użytkownika będzie poruszała temat

0:54samochodów, to z pomocą Pinecone będziemy w stanie znaleźć podobne informacje.

0:59Co więcej, będziemy mieć tutaj do czynienia z tzw.

1:01wyszukiwaniem podobieństw.

1:03Oznacza to, że nie będziemy szukać tylko w

1:05poszukiwaniu samego samochodu, ale również zestawów danych, które

1:09zawierają nazwy samochodów bądź na przykład informacje o podróży.

1:13Wynik zostanie tutaj zwrócony, będzie posiadał tzw.

1:16scoring, który będzie określał prawdopodobieństwo tego, jak bardzo

1:20zbliżone do przesłanych danych są dane, które zostały zwrócone.

1:24Wykorzystując ten scoring będziemy mogli dodatkowo przefiltrować nasze wyniki, a

1:29następnie w związku z tym, że w metadanych znajdują się identyfikatory recordów,

1:34będziemy mogli pobrać sam tekst, który jest tam przechowywany po to, aby zbudować

1:39kontekst, na podstawie którego GPT3 wygeneruje nam odpowiedź.

1:43Czyli mówiąc teraz w skrócie, gdy użytkownik wysyła wiadomość, zamieniamy je

1:48na vectory i znajdujemy podobne zestawy danych.

1:51Następnie pobieramy tekst i generujemy odpowiedź.

1:54Schemat jest dość prosty, natomiast

1:56największym problemem, z którym z całą pewnością będzie się mierzyć, będzie

2:00wspominany już przeze mnie mieszanie informacji.

2:02Poza samym mieszaniem będziemy też chcieli

2:05zwiększyć szanse na to, aby zostały odnalezione właściwe informacje.

2:10Z tego powodu na etapie zapamiętywania

2:12wykorzystamy możliwość generowania semantycznych tagów, które wygenerujemy na

2:16podstawie informacji przekazanej przez użytkownika.

2:20Aby stało się to dla Ciebie bardziej obrazowe, przejdźmy teraz do Playground.

2:24Napisałem tutaj następujący prompt.

2:27Podaj semantyczne tagi istotne z punktu widzenia SEO dla poniższego tekstu.

2:32Nie bez powodu wykorzystałem tutaj określenie semantyczne oraz SEO.

2:36Jedno i drugie określenie jest bardzo

2:39ściśle powiązane z mechanizmami wyszukiwania i właśnie tym, aby zwiększać

2:43prawdopodobieństwo tego, że użytkownik odnajdzie to, czego szuka.

2:47W naszym przypadku tym użytkownikiem będzie nasz avatar.

2:50Poza samą instrukcją przekazuję również

2:53przykład, w którym zapisuję tekst oraz dodatkowe tagi.

2:56Na tej podstawie GPT3 będzie w stanie

2:59dokładnie wiedzieć, w jakiej formie te tagi ma mi zwrócić.

3:02W tym przypadku nie tylko sugeruję mu sposób zapisu, czyli po przecinku małymi

3:06literami, ale także sugeruje mu zwracanie semantycznych tagów, czyli słów,

3:11które są zbliżone do tego, co zostało zapisane w tekście.

3:14Jeżeli teraz uruchomimy sobie ten prompt, otrzymamy następujący rezultat.

3:20Wygląda na to, że wszystko poszło tutaj

3:22ok, no może poza samym zapisywaniem znaków małymi literami.

3:26W tym przypadku jednak wydaje mi się, że jest to uzasadnione.

3:29Kopiuję zatem ten prompt i przechodzę bezpośrednio do naszego scenariusza.

3:34I tutaj dokładnie w tym miejscu umieścimy

3:36dodatkowy moduł GPT3, a konkretnie akcję Create a Completion.

3:41Wewnątrz niej możemy wykorzystać tutaj

3:43tekst DaVinci 003, a następnie przekazać nasz prompt.

3:48Wewnątrz niego muszę tylko podmienić

3:50fragment, który tutaj mamy na tekst, który zostanie przekazany przez użytkownika.

3:55No i oczywiście na samym końcu usuwam te

3:58wygenerowane tagi i ustawiam wartość max tokens tak aby odpowiedź nie była zbyt

4:03długa, a jednocześnie też aby nie została ucięta w połowie.

4:07Jeżeli chodzi o ten drugi wskaźnik

4:08ustawiam go na 04 czyli powiedzmy umiarkowana kreatywność.

4:13Po zapisaniu zmian mogę zmienić nazwę tego modułu no i upewnić się, że odpowiedź, która

4:18zostanie tutaj wygenerowana zostanie zapisana w Airtable.

4:22Ale dodatkowo wykorzystamy sobie tutaj funkcję

4:24Trim po to, aby przyciąć ewentualne białe znaki.

4:28Jeżeli teraz przejdziemy sobie do

4:30aplikacji Postman i jeżeli teraz wykonamy sobie to zapytanie, to informacja

4:35mam na imię Adam została zapisana w

4:37Airtabeli, a dodatkowo zostały wygenerowane tutaj tagi.

4:41Gdyby tego było mało, to od razu

4:43przeszliśmy tutaj przez proces synchronizacji.

4:46W związku z tym w naszym Pinecone pojawił

4:48się tutaj w moim przypadku już trzeci zestaw informacji.

4:52Jeżeli teraz jeszcze prześledzimy nasz scenariusz, to okaże się, że jeżeli

4:56przejdziemy sobie do historii wykonania to zobaczymy.

5:00W tym miejscu pobraliśmy nazwę recordu oraz tagi i teraz obie te informacje

5:05zostały zapisane jako vector, a następnie przekazane i zaindeksowane w Pinecone.

5:11Co więcej, te tagi nie tylko zostały zapisane

5:13jako liczby, ale także zostały zapisane jako metadane.

5:17Dzięki temu, w momencie, gdy będziemy

5:18zajmować się logiką odpowiedzialną za zwracanie odpowiedzi, będziemy mogli

5:23dodatkowo filtrować te recordy właśnie na podstawie metadanych.

5:27Jeszcze nie jestem pewien, czy w tym kursie będziemy się tym zajmować,

5:30natomiast zależało mi na tym, aby pokazać Ci tą technikę ze względu na to, że sam ją

5:35wykorzystuję i dzięki niej otrzymuję bardziej trafne wyniki.

5:39Natomiast jednocześnie przygotowanie

5:40takiego scenariusza jest odpowiednio bardziej złożone.

5:43W każdym razie na tym etapie jesteśmy w

5:45miejscu, w którym nasz avatar jest w stanie zapamiętywać to, co mu wskażemy.

5:51Zanim zakończymy tę lekcję, dodam tylko

5:53tyle, że przy tworzeniu własnego avatara możesz wykorzystać dokładnie ten sam

5:57mechanizm po to, aby zapamiętywać także samą konwersację.

6:01W ten sposób avatar będzie w stanie nie tylko zapamiętywać to, co mu dokładnie

6:05powiesz, ale także to, o czym z nim rozmawiasz.

6:09Ostatnią rzeczą, o której chciałbym tutaj wspomnieć są opłaty, które są naliczane

6:13nie tylko przy generowaniu odpowiedzi GPT3, ale także przy tworzeniu Embeddingów.

6:18To również jest odpowiedź generowana przez

6:20GPT3, z tą różnicą, że korzystamy tutaj z modelu Text Embedding ada i oczywiście

6:26opłaty są tutaj trochę niższe, ale jednocześnie trzeba o tym pamiętać.

6:30Jest to szczególnie ważne np.

6:32w momencie, gdy przyjdzie Ci do głowy

6:34zaindeksowanie jakiś bardzo dużych ilości danych.

6:36W przypadku którym w pewnym ograniczeniem może stać się także bezpłatny plan Pinecone.

6:41Na takie bieżące potrzeby i własne prywatne użycie,

6:45to co tutaj mamy nie powinno generować dużych kosztów.

6:48Wszystko jednak zależy od intensywności

6:51korzystania oraz oczywiście tego, w jaki sposób zaprojektujesz prompty.

6:55Teraz już dziękuję Ci za uwagę i zapraszam Cię do kolejnej lekcji.