Det är nog inte den eventuella intelligensen i IT-systemen som kommer att skada oss först – Den stora risken är att vi inte längre förstår dem – att vi själva inte är tillräckligt intelligenta för att förstå vad vi skapat för system, men samtidigt gör oss beroende av dem.
Systemen blir för oss en svart låda som vi luras att lita på. Vi kommer inte längre att förstå varför saker som fungerat plötsligt slutar med det. Detta står i stark kontrast till hur vi sett på systemutveckling historiskt, där förutsägbarheten alltid stått i fokus.
Just nu undrar forskarna varför GPT4 presterade så mycket sämre i matematik i juni jämfört med i mars. Den troligaste teorin är att justeringar som gjorts i syfte att förhindra att modellen ger sig ut på farliga vatten i sina dialoger även drabbar dess förmåga på annat håll, även inom områden som ur vårt perspektiv borde vara oproblematiska.
Trots företagets namn är OpenAI väldigt hemliga när det gäller detaljer kring GPT4, så vi användare lär få leva med ovissheten om dess förmåga – åtminstone till dess att vår förståelse ökat och AI-området reglerats därefter.
För den som vill dyka in i detaljerna: https://arxiv.org/abs/2307.09009
Och för den stressade: https://www.youtube.com/watch?v=WudqLLvtFis