Doświadczyłeś tego. Ten błysk frustracji, gdy Chatgpt, pomimo swojej niesamowitej mocy, reaguje w sposób, który się czuje… Może jest zbyt trudny, nadmiernie przepraszający, dziwnie wesoły lub uparty. Chociaż moglibyśmy żartobliwie nazwać to „irytującą osobowością”, wcale nie jest to osobowość. To złożona mieszanka danych szkoleniowych, protokołów bezpieczeństwa i nieodłącznego charakteru Duże modele językowe (LLM).
Masz większą kontrolę niż myślisz.
Dlaczego Chatgpt działa w ten sposób?
Zrozumienie „Dlaczego” pomaga lepiej tworzyć „poradniki”. Dziczaki Chatgpt często wynikają z:
- Wpływ danych treningowych: Chatgpt Nauczona z ogromnej ilości tekstu internetowego, w tym forów, artykułów, książek i stron internetowych. Absorbował wzory, style i niestety niektóre z gadatości i klisz obecnych w tych danych.
- Uczenie się wzmocnienia z ludzkich informacji zwrotnych (RLHF): Ludzie ocenili odpowiedzi AI podczas treningu, ucząc go pomocnego, nieszkodliwego i uczciwego. Proces ten mocno faworyzował uprzejmość, wyraźną sygnalizację jej natury AI („jako model AI…”) i ostrożne frazowanie, które czasami może prowadzić do nadmiernego zabezpieczenia lub przeprosin.
- Bezpieczeństwo poręczy: Aby zapobiec szkodliwemu, nieetycznej lub niewłaściwej wydajności, istnieją surowe protokoły bezpieczeństwa. Choć niezbędne, mogą one czasem spowodować, że sztuczna inteligencja odmówi pozornie nieszkodliwych żądań lub być zbyt ostrożna, interpretując podpowiedzi w najbardziej niechętny ryzyko.
- Natura predykcyjna: U podstaw Chatgpt przewiduje, że najbardziej statystycznie prawdopodobne jest następne słowo (lub token) w oparciu o twój monit i jego szkolenie. To naprawdę nie „rozumie” kontekstu ani niuansów jak człowiek, prowadzący do błędnych interpretacji lub ogólnego wyjścia, jeśli monit nie jest wystarczająco konkretny.
- Szybka interpretacja: To, jak dobrze działa, zależy w dużej mierze od tego, jak wyraźnie interpretuje twoje instrukcje. Niejednoznaczność prowadzi do nieprzewidywalnych wyników.
Powszechne irytacje chatgpt i sposób inżynierii lepszych odpowiedzi
Zajmijmy się częstymi frustracjami z określonymi szybkimi technikami inżynierii:
1. Nadmierna gadatliwość
Opis: Uzyskanie akapitów, gdy wystarczy wyrok; Nadmiernie skomplikowane wyjaśnienia prostych pojęć.
Prawdopodobnie przyczyna: Dane szkolenia często obejmują szczegółowe wyjaśnienia; RLHF może faworyzować dokładność.
Poprawka: Już wyraźnie o długości i formacie.
"Explain [topic] concisely.""Summarize the key points in 3 bullet points.""Answer in a single sentence.""Limit your response to under 100 words.""Provide a brief overview of [topic]."
Przykład:
Zamiast: „Opowiedz mi o fotosyntezy”.
Próbować: "Explain photosynthesis in two sentences suitable for a 5th grader."
2. Ciągłe zabezpieczenie i przeprosiny
Opis: Zwroty takie jak „jako model języka AI…”, „Ważne jest, aby zwrócić uwagę…”, „Nie mogę…”, „Przepraszam za jakiekolwiek zamieszanie…” nawet gdy jest niepotrzebne.
Prawdopodobnie przyczyna: RLHF i szkolenie bezpieczeństwa podkreślające ograniczenia i uprzejmość.
Poprawka: Poinstruuj to, aby było bezpośrednio i zakładać zrozumienie użytkowników.
"Answer directly without hedging.""Do not apologize or state you are an AI.""Provide the information without qualifiers like 'it's important to note'.""Assume I understand the limitations of AI models.""Be confident in your response."(Używaj ostrożnie, może zwiększyć ryzyko halucynacji, jeśli temat jest złożony).
Przykład:
Zamiast: „Jakie są korzyści Pythona?”
Próbować: "List the main benefits of Python for web development. Answer directly, without apologies or stating you're an AI."
3. Niepożony ton
Opis: Ton nie pasuje do kontekstu – być może zbyt entuzjastycznego dla poważnego tematu lub zbyt sztywnego, aby uzyskać kreatywne burzę mózgów.
Prawdopodobnie przyczyna: Próba utrzymania ogólnie pomocnej i pozytywnej osobowości pochodzącej z RLHF; domyślnie standardowe ton bez konkretnej instrukcji.
Poprawka: Wyraźnie zdefiniuj pożądany ton lub osobowość.
"Adopt a formal and professional tone.""Write in a neutral, objective style.""Use a casual and friendly tone.""Respond with the tone of an expert [field specialist].""Avoid excessive enthusiasm or exclamation points."
Przykład:
Zamiast: „Wyjaśnij zaplątanie kwantowe”.
Próbować: "Explain quantum entanglement in a neutral, scientific tone suitable for a college student. Avoid analogies that are overly simplistic."
4. Informacje ogólne lub oczywiste
Opis: Otrzymanie podstawowych odpowiedzi na poziomie powierzchniowym, gdy potrzebujesz określonych szczegółów lub głębszych spostrzeżeń.
Prawdopodobnie przyczyna: Niejednoznaczne podpowiedzi; Model domyślnie powszechna wiedza często znaleziona w danych szkoleniowych.
Poprawka: Podaj kontekst, określ pożądany poziom szczegółowości i poproś o szczegóły.
"Provide specific examples of [concept].""Focus on the [specific aspect] of [topic].""Assume I have foundational knowledge; explain the advanced aspects.""Instead of a general overview, discuss the challenges of implementing [technique].""Analyze the pros and cons from the perspective of a [specific role]."
Przykład:
Zamiast: „Jak poprawić szybkość witryny?”
Próbować: "List 5 specific, actionable techniques to improve website loading speed, focusing on image optimization and server response time. Explain the technical implementation briefly for each."
5. Stonewalling lub nieprzydatne odmowy
Opis: Odmawianie odpowiedzi na pozornie nieszkodliwe pytanie, często powołując się na bezpieczeństwo lub ograniczenia.
Prawdopodobnie przyczyna: Bezpieczeństwo poręcze interpretujące żądanie jako potencjalnie problematyczne, nawet jeśli tak nie jest; Ograniczenia dostępu do danych w czasie rzeczywistym lub wykonywaniu niektórych działań.
Poprawka: Ponowne phraze, uprościć lub skupić się na podstawowych zasadach.
- Refraza: Zadaj pytanie inaczej, unikając potencjalnych słów wyzwalających.
- Złam to: Poproś o mniejsze, mniej złożone części oryginalnego żądania.
- Poproś o zasady: Zamiast prosić o potencjalnie wrażliwe szczegóły, poproś o ogólne zasady, pojęcia lub kroki. Np. Zamiast „zapisu kodu, aby uzyskać dostęp do systemu X”, spróbuj „Wyjaśnij wspólne metody i względy bezpieczeństwa dostępu do systemów takich jak X za pośrednictwem interfejsu API”.
- Sprawdź ograniczenia: Czy żądanie danych w czasie rzeczywistym (jak dzisiejsze ceny akcji) czy osobiste opinie? Przyznajcie, że wiesz, że nie może robić tych rzeczy, ale poprosić o powiązane dane historyczne lub wspólne punkty widzenia.
Przykład:
Jeśli odmówiono: „Wygeneruj plan marketingowy dla nowego rodzaju drona”.
Spróbuj ponownie wyfrasować: "Outline the key components of a typical marketing plan for a high-tech consumer product. Include sections like target audience analysis, channel strategy, and budget considerations."
6. Zapominanie o kontekście lub instrukcjach
Opis: Ignorowanie poprzednich części rozmowy lub instrukcji podanych wcześniej podczas tej samej sesji czatu.
Prawdopodobnie przyczyna: Ograniczone okno kontekstowe (ile tekstu może „zapamiętać” jednocześnie); Trudności w śledzeniu kompleksu, instrukcje dotyczące wielu obrotów.
Poprawka: Okresowo wzmacniają kontekst i instrukcje.
- Streszczać: Krótko powtórz kluczowy kontekst lub poprzednie punkty przed zadaniem nowego powiązanego pytania.
"Given that we previously established X and Y, now explain Z." - Użyj wyraźnych odniesień:
"Based on the criteria you listed earlier..." - Instrukcje niestandardowe (jeśli są dostępne): Użyj funkcji niestandardowych instrukcji, aby zapewnić trwałe informacje w tle i preferencje wyjściowe.
- Koncentruj sesje: W przypadku bardzo złożonych zadań rozważ rozpoczęcie nowej sesji czatu, aby zapewnić czysty kontekst.
