Stora språkmodeller som GPT-4 är utmärkta på system 1-tänkande - de snabba, intuitiva och automatiska kognitiva processerna. De har dock ofta svårt med system 2-tänkande, vilket innebär långsammare, mer medvetet och analytiskt resonemang. Denna begränsning är tydlig i deras oförmåga att effektivt lösa komplexa problem som kräver att uppgiften bryts ner i steg, att olika alternativ utforskas och att lösningarna utvärderas.

Nyckelproblemet är att stora språkmodeller främst förlitar sig på mönstermatchning och statistisk förutsägelse, utan förmågan att verkligen förstå de underliggande koncepten eller resonera genom problemlösningsprocessen. De kan ge skenbart rimliga svar på enkla frågor, men när de ställs inför mer komplexa uppgifter misslyckas de ofta med att känna igen nyanser och göra nödvändiga logiska slutsatser.

Denna begränsning framhävs i de exempel som ges, där collegestudenterna och den stora språkmodellen hade svårt att lösa scheinbart raka problem eftersom de förlitade sig på sin intuitiva, system 1-tänkande snarare än att engagera sig i det mer ansträngande, system 2-tänkande som krävs för att nå de korrekta lösningarna.

Det finns flera prompt engineering-strategier som kan användas för att tvinga fram system 2-tänkande i stora språkmodeller:

1. Kedja av tankar-promptning: Detta är en enkel och vanlig metod som infogar en "Steg-för-steg-resonemang"-prompt innan modellen genererar utdata. Detta tvingar modellen att bryta ner problemet i mindre steg och tänka igenom dem.

2. Exempel-baserad promptning: Istället för att bara ge "Steg-för-steg-resonemang"-prompten kan du ge modellen några korta exempel på hur man kan närma sig problemet. Detta hjälper modellen att förstå den typ av steg-för-steg-tänkande som krävs.

3. Självkonsistens med kedja av tankar: Denna metod får modellen att köra kedja av tankar-processen flera gånger, granska svaren och rösta på det mest rimliga. Detta utforskar flera olika alternativ innan det slutliga svaret anges.

4. Tanketräd: Detta är en av de mest avancerade promptnings-taktikerna. Den får modellen att komma upp med flera sätt att lösa problemet, utforska de olika grenarna och hålla reda på de utforskade vägarna. Detta ökar betydligt antalet alternativ som modellen överväger.

Medan stora språkmodeller som GPT-4 har gjort imponerande framsteg, kämpar de fortfarande med komplexa, flerstegiga resoneringsuppgifter som kräver "system 2"-tänkande. För att hantera detta kan vi utnyttja kraften i kommunikativa agenter - en multi-agent-uppställning där olika agenter samarbetar för att lösa problem.

De viktigaste fördelarna med denna metod är:

1. Dela och erövra: Genom att tilldela specifika roller och ansvar till olika agenter (t.ex. en problemlösare, en granskare, en forskare) kan vi bryta ner komplexa problem i mer hanterbara deluppgifter.

2. Reflekterande tänkande: Interaktionen mellan agenter möjliggör en återkopplingsslinga, där granskaren kan identifiera brister i problemlösar-agentens tillvägagångssätt och uppmana denne att omvärdera och förbättra sin lösning.

3. Utforskning av alternativ: Kommunikativa agenter kan utforska flera lösningsvägar parallellt, istället för att begränsas till ett enda, linjärt tillvägagångssätt.

I det här avsnittet kommer vi att gå igenom ett praktiskt exempel på hur man använder ett multi-agent-system för att lösa en komplex logikpussel som till och med GPT-4 kämpar med.

Uppgiften är följande:

Det finns fyra djur - ett lejon, en zebra, en giraff och en elefant. De befinner sig i fyra olika hus med olika färger - rött, blått, grönt och gult. Målet är att avgöra vilket djur som är i vilket färghus, baserat på följande ledtrådar:

1. Lejonet är antingen i det första eller sista huset.
2. Det gröna huset är omedelbart till höger om det röda huset.
3. Zebran är i det tredje huset.
4. Det gröna huset är bredvid det blå huset.
5. Elefanten är i det röda huset.

Detta problem är ganska utmanande, eftersom det kräver att man noggrant överväger varje ledtråd och drar slutsatser om den slutliga arrangemanget. Låt oss se hur vi kan använda ett multi-agent-system för att lösa detta problem.

Stora språkmodeller som GPT-4 har imponerande förmågor, men de kämpar ofta med komplexa, system-två-nivå-tänkande-uppgifter. För att hantera detta utforskar forskare sätt att tvinga fram mer medvetet, steg-för-steg-resonemang i dessa modeller.

En metod är genom prompt engineering-tekniker som "kedja av tankar"-prompter, som bryter ner problem i mindre steg. Mer avancerade metoder som "självkonsistens" och "tanketräd" utforskar ytterligare flera lösningsvägar.

En annan lovande inriktning är användningen av "kommunikativa agenter" - uppställningar där flera AI-agenter samarbetar för att lösa problem, där en agent agerar granskare för att identifiera brister i den andres resonemang. Verktyg som AutoGPT gör det relativt enkelt att ställa in dessa multi-agent-system.