Never thought by human brain

”Never touched by human hands” stod det på en gammal förpackning, minns att jag läste detta någon gång på 80/90-talet. Då var det ett säljargument, men detta har nog klingat av sedan dess. Vi må konsumera allt fler varor producerade i helautomatiserade fabriker, men det är inget vi vill veta mer om.

Samma sak håller på att hända i informationsfabrikerna. Allt mer information kommer att skapas, och allt fler beslut kommer att fattas digitalt, artificiellt, statistikt eller vad man nu väljer att kalla det.

”Never thought by human brain”.

Och vi kommer konsumera allt mer av detta. Kanske kommer det vara det normala, även när vi tycker att vi har en människa i andra änden. I själva verket har de använt sina artificiella assistenter. Vi kommer att nöja oss med statistiskt säkerställda standardfraser i stora delar av vår kommunikation. Detta kommer troligen att utarma vår egen förmåga att uttrycka oss, att tänka logiskt.

När sedan språkmodellerna ska uppdateras med den senaste informationen, kommer denna att vara skapad av modellerna själva. Vi får en rundgång av information som är ”never thought by human brain”, ett självgående system av ljud, bild och text skapat och kontinuerligt utslätat i informationsfabrikerna. Och vill vi finnas kvar kommer vi att tvingas acceptera att konsumera och reagera på detta.

Men precis som med hantverk och närproducerat, kommer vi att längta efter och betala extra för sånt som faktiskt skapats i en hjärna, baserat på år av unik erfarenhet, drivet av nyfikenhet och lust som vi inte riktigt förstår, men som är djupt mänsklig.

Lågt kodat

Low code är ofta kortsiktigt effektivt (efter inlärningströskeln..), men saknar än så länge långsiktig hållbarhet. Dock finns samma problem även vid utveckling i de etablerade programmeringsspråken, där man i allt högre grad baserar lösningarna på diverse ramverk som har liknande egenskaper som low-code-plattformar. Nya versioner med bristande bakåtkompatibilitet, osäkert leverantörsstöd, avsaknad av långsiktiga produktplaner osv.

Men framtiden är kanske inte low code, utan AI-genererad kod. Och med tanke på den snabba utvecklingen inom det området kommer problemet på bristande hållbarhet nog att bestå. Men kanske, kanske blir morgondagens AI-utvecklare fantastiska på att just migrera lösningar från obsoleta plattformar till något som fungerar just den här veckan..

Det åttonde underverket

Tipsar om lyssning lämpad för lunchpromenaden eller pendlingsresan, om Wikipedias betydelse för inlärningen av språkmodellerna, och olika scenarier om vad som kan hända med kunskapskällan i framtiden.

Artikeln tar även upp problemet med informations-inavel när modellerna börjar tugga i sig sina egna skapelser istället för sånt som människor genererat.

Intressant nog verkar det som att människan fortfarande excellerar när det gäller två motpoler inom skapande – Dels är människan fortfarande bäst på att skapa struktur, kvalitet och sanning, motsvarande Wikipedia – Dels är den även att föredra när det gäller sant kreativt och fritt skapande, motsvarande världens skönlitteratur. Däremot kan språkmodeller redan nu klå oss när det gäller repetitiv generering av självklarheter, floskler och annat som typiskt och kanske tyvärr är ganska gångbart inom dagens kunskapsarbete.  

Men, till de som är allergiska mot alltför mycket varningar och risker – slutackordet i denna essä är nog trots allt i dur – så länge man insett att vägen dit kommer att kräva att man inte stoppar huvudet i sanden, utan är beredd att ta tag i de risker som identifieras på resan.

#podd #ai #wikipedia #llm

Som en skyskrapa i Dubai

Ännu en ny LLM såg dagens ljus i förra veckan – Falcon 180B, skapad av The Technology Innovation Institute, TII som huserar i Förenade arabemiraten. Eller, man kan fundera på när modellen ”såg dagens ljus”, eftersom den har tränats med hjälp av 3.500 miljarder ord/tokens, som behandlats under 800 gpu-år. I verkligheten lär den ha kört ca 5000 parallella processorer under några månader. Just nu är det vad aktörerna verkar ägna sig åt – man antar att ju större desto bättre – som nästa skyskrapa i Dubai.

TII har släppt denna modell, liksom flera tidigare modeller som öppen källkod på Hugging Face, den ledande plattformen för öppna modeller.

Det är en kluven känsla man får. Å ena sidan den relativt stora öppenheten, och att det här kommer en modell som minskar San Francisco-dominansen. Å andra sidan det faktum att detta finansieras av regeringen i ett land som inte är lika öppet.

Eftersom emiraten är ärftliga monarkier och det är emirerna som väljer en av dem själva till president brukar även federationen räknas som en monarki. Ungefär 10–15 % av befolkningen är medborgare och har privilegier som garanterar rikedom och skydd i domstol. Resterande invånare är utländska gästarbetare, framför allt från Indien, Pakistan och Bangladesh.

Förenade arabemiraten rankas dåligt i frihetsindex som mäter medborgerliga friheter och politiska rättigheter. Förenade arabemiraten rankas årligen som ”Inte fri” i Freedom House årliga frihet i världen-rapport, som mäter medborgerliga friheter och politiska rättigheter.

https://huggingface.co/blog/falcon-180b

https://www.tii.ae

https://sv.wikipedia.org/wiki/F%C3%B6renade_arabemiraten

https://www.ui.se/landguiden/lander-och-omraden/asien/forenade-arabemiraten/skriv-ut-alla-kapitel

https://en.wikipedia.org/wiki/List_of_tallest_buildings_in_Dubai

Den svarta lådan

Det är nog inte den eventuella intelligensen i IT-systemen som kommer att skada oss först – Den stora risken är att vi inte längre förstår dem – att vi själva inte är tillräckligt intelligenta för att förstå vad vi skapat för system, men samtidigt gör oss beroende av dem.

Systemen blir för oss en svart låda som vi luras att lita på. Vi kommer inte längre att förstå varför saker som fungerat plötsligt slutar med det. Detta står i stark kontrast till hur vi sett på systemutveckling historiskt, där förutsägbarheten alltid stått i fokus.

Just nu undrar forskarna varför GPT4 presterade så mycket sämre i matematik i juni jämfört med i mars. Den troligaste teorin är att justeringar som gjorts i syfte att förhindra att modellen ger sig ut på farliga vatten i sina dialoger även drabbar dess förmåga på annat håll, även inom områden som ur vårt perspektiv borde vara oproblematiska.

Trots företagets namn är OpenAI väldigt hemliga när det gäller detaljer kring GPT4, så vi användare lär få leva med ovissheten om dess förmåga – åtminstone till dess att vår förståelse ökat och AI-området reglerats därefter. 

För den som vill dyka in i detaljerna: https://arxiv.org/abs/2307.09009

Och för den stressade: https://www.youtube.com/watch?v=WudqLLvtFis

Den andre

Spelar det någon roll för dig om du interagerar med en människa eller en maskin? Utan reglering av AI kommer du inom kort inte kunna avgöra skillnaden. 

Men om du ändå inte kan det – vad spelar det i så fall för roll?

Jag tror att svaret beror på om man har en instrumentell eller etisk syn på livet och sitt förhållande till omvärlden.

Med en instrumentell inställning är interaktionen inget mer än vad den är – en interaktion. Om svaret på din fråga är tillräckligt bra spelar det ingen roll hur det kom till.

Ett etiskt synsätt adderar mer till själva informationsutbytet. Då finns i kommunikationen något djupare, något som tar hänsyn till de inre processer motparten genomför på grund av dig. Då kan dessa få dig att känna till exempel tacksamhet eller andra känslor för den andre. Och du kommer önska och troligen förutsätta att det finns något verkligt att rikta dessa känslor mot.

Lura aldrig någon att tro att de kommunicerar med en människa om det inte är så.

Filosofen Daniel Dennett utvecklar det etiska problemet med fejkade människor här:

och i artikeln

The Problem With Counterfeit People – Companies using AI to generate fake people are committing an immoral act of vandalism, and should be held liable:

https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-people/674075