Papperet från OpenAI-laboratoriet presenterar en anmärkningsvärd idé - att använda ett AI-system för att kritisera den kod som genererats av ett annat AI-system. Denna koncept är verkligen banbrytande, eftersom den öppnar upp nya möjligheter för att förbättra kvaliteten och tillförlitligheten hos AI-genererad kod.

Forskarna tränade först AI-kritikersystemet genom att medvetet införa buggar i befintliga applikationer och låta systemet lära sig att identifiera och beskriva dessa problem. Detta tillvägagångssätt ger inte bara en stor mängd träningsdata, utan efterliknar också verkliga scenarier där buggar kan uppstå oväntat.

Resultaten av detta experiment är häpnadsväckande. AI-kritikersystemen kunde identifiera betydligt fler buggar än mänskliga granskare, och i mer än 60% av fallen föredrogs de AI-genererade kritikerna framför de som skrivits av människor. Detta tyder på att dessa AI-system kan vara mycket effektiva för att förbättra kvaliteten på AI-genererad kod, vilket hjälper till att göra befintliga kodbasar mer robusta och potentiellt till och med skydda dem mot attacker.

Papperet från OpenAI-laboratoriet presenterar en fascinerande idé - att använda ett AI-system för att kritisera och förbättra den kod som genererats av ett annat AI, som ChatGPT eller den nya Claude 3.5. Denna koncept är verkligen anmärkningsvärd, eftersom den öppnar upp nya möjligheter för dem med begränsad kodningskompetens att skapa komplex programvara, som datorspel, med hjälp av AI.

Nyckel för att få detta att fungera är att träna kritik-AI:n på en stor datauppsättning av buggar och kodproblem, både artificiellt introducerade och naturligt förekommande. Genom att lära sig hur kod vanligtvis går sönder kan kritik-AI:n sedan analysera utdata från den genererande AI:n och identifiera potentiella problem eller fel.

Resultaten är ganska imponerande - de AI-drivna kritikerna anses vara mer omfattande än de som skrivits av människor, och i över 60% av fallen föredras de AI-genererade kritikerna. Detta tyder på att dessa system kan förbättra kvaliteten och tillförlitligheten hos AI-genererad kod avsevärt, vilket gör den mer robust och mindre utsatt för attacker.

För att träna kritik-AI-systemet behövde forskarna först skapa en stor datauppsättning av buggar och fel. De gjorde detta genom att medvetet införa buggar i befintliga fungerande applikationer, vilket bröt sönder dem på intressanta sätt. Genom att beskriva dessa införda buggar skapade de en datauppsättning som AI:n kunde lära sig från.

Dessutom tittade forskarna också på naturligt förekommande buggar och fel som hittats i det vilda. Detta lät AI:n lära sig från verkliga exempel, inte bara artificiellt skapade.

Målet var att lära AI-systemet hur kod vanligtvis går sönder, så att det sedan kunde kritisera och identifiera buggar i ny AI-genererad kod effektivt. Detta tillvägagångssätt att skapa en omfattande träningsdatauppsättning, inklusive både avsiktligt införda och naturligt förekommande buggar, var nyckeln till framgången för kritik-AI-systemet.

Resultaten som presenteras i papperet är verkligen anmärkningsvärda. Kritik-AI-systemet kan hitta betydligt fler buggar än mänskliga experter, och över 60% av de AI-skrivna kritikerna föredras framför de som skrivits av människor. Detta belyser de imponerande möjligheterna hos dessa system att identifiera och analysera kodproblem.

Furthermore, papperet avslöjar att kombinationen av människor och AI-kritiker ger ännu mer omfattande resultat än enbart AI-baserade tillvägagångssätt. Även om hallucinationer, där AI:n hittar på icke-existerande buggar, fortfarande är en oro, hjälper närvaron av mänskliga experter att mildra denna fråga.

Papperets resultat tyder på att dessa kritik-AI-system kan spela en avgörande roll i att förbättra kvaliteten och tillförlitligheten hos befintliga kodbasar, samt potentiellt hjälpa till att skydda mot attacker. Den ökade transparensen och tillgängligheten av sådan forskning är också beundransvärd, eftersom den låter det bredare samhället bättre förstå styrkor och begränsningar hos dessa framväxande teknologier.

Medan kritik-AI-systemet som presenteras i papperet har imponerande möjligheter att hitta fler buggar och ge mer omfattande kritiker än mänskliga experter, är det inte utan sina begränsningar och utmaningar.

För det första är systemet fortfarande känsligt för hallucinationer, där AI:n felaktigt identifierar buggar eller problem som inte faktiskt existerar i koden. Detta kan leda till falskt positiva resultat och onödig tid som läggs på att undersöka icke-existerande problem. Papperet noterar att inkluderingen av mänskliga experter i processen hjälper att mildra dessa hallucinationer, vilket ger en mer tillförlitlig och korrekt bedömning.

Dessutom har systemet svårt med fel som inte är isolerade till en enskild kodbit, utan uppstår från en kombination av flera problem över olika delar av kodbasen. Dessa mer komplexa, sammankopplade problem kan vara svåra för kritik-AI:n att identifiera och hantera effektivt.

Furthermore erkänner papperet att systemet kräver noggrann granskning och kontroll av mänskliga experter, även med sina imponerande möjligheter. De AI-genererade kritikerna måste granskas noggrant för att säkerställa riktigheten och tillförlitligheten i resultaten, eftersom systemet inte är ofelbart.

Den nya kritik-AI-systemet som utvecklats av OpenAI-laboratoriet är ett anmärkningsvärt framsteg inom området för kvalitetssäkring av kod. Genom att träna ett AI att kritisera utdata från andra AI-system, som ChatGPT och Claude 3.5, har forskarna funnit att dessa kritik-AI:er kan identifiera betydligt fler buggar än mänskliga experter. Remarkabelt nog föredras de AI-skrivna kritikerna över de som skrivits av människor i över 60% av fallen.

Systemet är dock inte utan sina begränsningar. Hallucinationer, där AI:n hittar på icke-existerande buggar, förekommer fortfarande, även om det sker mindre frekvent än tidigare. Dessutom har systemet svårt med fel som uppstår från flera problem över kodbasen, snarare än isolerade misstag.

Trots dessa begränsningar är potentialen hos denna teknik enorm. Genom att kombinera mänsklig expertis med de omfattande möjligheterna hos AI att hitta buggar, har forskarna demonstrerat ett kraftfullt tillvägagångssätt för att förbättra kvaliteten och tillförlitligheten hos AI-genererad kod. Allteftersom tekniken fortsätter att utvecklas kan vi förvänta oss ännu mer imponerande resultat i den nära framtiden.