Elektriker blev jag aldrig, min urgamla civilingenjörsexamen i elektroteknik till trots, men nu har jag i alla fall medverkat i Elektrikerpodden! Värdarna Peter och Billy Fransson (kusiner från slätten) visade sig vara ett par riktigt sköna lirare, och samtalet vi fick till blev vittförgrenat.
Vi kämpar på så gott vi förmår! När det känns motigt brukar jag tänka på Mike Rutherfords "This is the world we live in. These are the hands we're given", vilket ger mig kraft att kämpa lite till.
En sak som gör mig lite trött är att det sitter två lomhörda tanter på samma buss som jag och för ett långt, repetitivt och lite förvirrat samtal om den frekventa förekomsten i etermedia av felaktiga uttal av alplandet Schweiz.
I expect many die-hard Searlians to stick to their guns right up to the very end.
Jaja, var och en får bli salig på sin fason...
Vi ondgör oss ofta över amrikanernas oförmåga att hålla isär "Sweden" och "Switzerland", men det förekommer en annan geografisk förväxling därborta som vi enligt min mening gjort för lite för att rätta till.
Sedan åtminstone 2019 har jag ständigt upprepat hur dålig AI-kapplöpningen är för kontrahenternas benägenhet att satsa på säkerhet. Man skulle kunna tro att jag i detta läge skulle fröjda mig över att kunna ropa "vad var det jag sa", men nej.
My latest talk on AI risk, plus my latest podcast appearance on the same topic.
This was a good discussion with Reid Blackman on his Ethical Machines podcast, in large part thanks to how skillfully he pushed back against some of my assertions. The topic was AI risk, but we ended up talking quite a bit about epistemology in situations with extreme uncertainty.
Here's the video for my talk "Our AI future and the ethics of risking everything" at the HumAI seminar at Gothenburg University.
www.youtube.com/watch?v=dYMx...
As a general principle I agree with that, but with the caveat that in certain situations (such as the one we are in) which (a) are urgent, and (b) carry stupendous stakes, one needs to be extra careful about in what direction one is pushing the discourse; there is more to life than just philosophy.
In my new Substack post I express deep concern over the AI accelerationist attitude diplayed in recent texts by Dario Amodei and Nick Bostrom.
DN Kultur publicerade en text om AI-risk av statsvetaren Hans Agné häromdagen. De har nu refuserat den replik jag skrev, men som tur är tillämpar bloggen Häggström hävdar lite rimligare bedömningsmallar, så nu kan ni ta del av min text där:
Tydligen har 14 år hunnit passera sedan jag läste (och uppskattade) denna bok. Här är min (dessvärre lite pratiga) recension:
Mitt svar till Patrik Stigsson i den pågående debatten om AI-risk i tidskriften Opulens är nu publicerat. I svaret förklarar jag varför hans Gaia-fantasier om att en superintelligent AI automatiskt skulle bli miljövän är så förfelade.
Man vet att det är vinter-OS när man hux flux kommer på sig själv med att vissla Du gamla, du fria!
Lystring göteborgare! Nästa vecka har ni chansen att se och höra mig föreläsa över ämnet "Our AI future and the ethics of risking everything". Torsdag 19/2 kl 15.00. Viktiga avslöjanden och insikter utlovas, förutan vilka ni knappast är i stånd att korrekt bedöma samhället och framtiden.
Ny gästkrönika i GP idag, där jag återkommer till det här med AI-risk.
Central quote from my new blog post:
"Frankly I don’t see how Altman’s plan for how to proceed is importantly disanalogous to if an evil pharmaceutical company released a pathogenic virus into the wild, and also offered the world a medication that neutralizes the virus."
Sällan eller aldrig har jag känt starkare hur mycket jag föredrar originalet framför plagiatet.
Det är först med denna läckta bild från arbetsutskottets konstituerande möte som vi nu vet vilka som sitter i Trumps fredsråds allra innersta krets och därigenom i praktiken beslutar över rådets inriktning i alla viktiga policyfrågor inklusive hur världen skall styckas upp mellan de olika parterna.
Det här var en kul nyhet, men som nogräknad matematiker har jag invändningar mot att beskriva en tidsrymd om tre och en halv månad som "knappt fem månader".
Det är absolut sant, men jag vill understryka att jag även utan deras kungörelse hade förblivit ståndaktig i min vägran att skiljas från den åtråvärda bucklan.
Det ryktas även att Trump hotar med 7000%-iga tariffer på svensk akvavit som straff för att jag vägrar skänka strålglans åt hans gedigna schackkunnande (nobody understands chess better than him) genom att överlämna bronspokalen från 2025 års veteran-SM i snabbsckack till honom.
Flashback till 1995 och tiden då jag entusiastiskt deltog i bojkotten av franska viner som protest mot dåvarande president Chiracs beslut att återuppta testsprängningarna av kärnvapen i Stilla Havet. Idag känner jag mig något mer frankofil.
Alfred Nobel talade i sitt testmente om att belöna dem som "gjort mänskligheten den största nytta", och det vore måhända en ödets ironi om det blev en världsledares monomaniska besatthet rörande detta pris som till slut satte igång det tredje världskrig som sedan förintade allt vi hade kärt.
