Max Andersson @MaxAndersson@respublicae.eu

Ping: @OHaggstrom

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647614184144740353

Det här uttalandet är så dumt att man för ovanlighetens skull kan misstänka att ministern blivit felciterad.

Det är ovanligt, men i det här fallet kan det inte uteslutas.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647613886625898496

Problemet att en superintelligent AI kanske inte kan skilja på rätt och fel är precis det som många av experterna är oroliga för.

Men digitaliseringsministern framställer det istället som något vi kan känna oss trygga med.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647613529694916609

Och priset för årets sämsta spaning om riskerna med AU går till @ErikSlottner.

Om vi skapar en superintelligent AI vi inte kan kontrollera så är det inte fördel för oss om den inte kan skilja på rätt och fel.

Tvärtom!

https://www.aftonbladet.se/nyheter/a/Q7Ekkx/erik-slottner-om-ai-tekniken-som-kan-komma-att-forbjudas

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647612677735215105

Jag tror att science fiction-författare kommer att klara sig bättre än de flesta.

Det kommer att vara svårt att träna upp en AI att analysera hur en ny idé påverkar en hel värld och spegla det i bokform.

De bästa SF-författarna kommer att klara sig ett bra tag till.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647524024568754178

Kulturskribenter ligger sannolikt betydligt sämre till än skönlitterära författare. Det är mycket lättare att träna en AI till att skriva korta texter, än långa.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647522503022002177

Det är inte nödvändigt att AI blir bättre än riktiga skribenter. Det räcker om de blir tillräckligt bra för att man ska kunna tjäna pengar på att ta in en AI istället.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647522047541624834

Ett intressant exempel på förnekelse. AI är redan bra nog för att ta jobb från illustratörer. Problemet med fingrar är redan löst.

Det är bara en tidsfråga innan texterna blir bra nog att ta jobb från skribenter också.

https://www.etc.se/kronika/daerfoer-aer-ai-ett-icke-hot-mot-kulturvaerlden

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647521194277576706

När jag satt i EU-parlamentet avvek jag från grupp-linjen och röstade för en gene-drive mot malaria.

Det är värt att titta på riskerna men de verkar vara små, och i andra vågskålen ligger väldigt många människors liv.
RT @ScienceAlly: Gene drive technologies have enormous potential for malaria control and would significantly aid in existing anti-malaria efforts being pursued in Africa 🐜
https://t.co/0sV5pOxmYC

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646910480290570248

@eduniw Jag betraktar fortfarande hypotesen om att det krävs något mystiskt biologiskt inslag för att AI kunna utgöra ett allvarligt problem som både obevisad och osannolik.

Men jag får passa på att tacka för en givande diskussion. Jag har lärt mig något och fått flera goda idéer.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646908310090653699

@eduniw Det har du i och för sig rätt i.

Min första version av tweeten var "visa mig en pelargon som kan manipulera en människa att genomföra ett jag-är-inte-en-robot-test".

Det må vara vetenskapligt rimligare, men låter inte lika roligt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646907386739802113

@eduniw "Inget tyder heller på att det är möjligt för datorer att utveckla medvetande. Växter är mycket närmare det skulle jag vilja hävda"

Om du kan visa mig en pelargon som kan klara ett Turing-test så lovar jag att hålla med dig.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646906171268255746

@eduniw AI behöver inte medvetande för att bli ett problem.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646904660383375362

@eduniw 3/3 När det gäller AGI handlar det dock om att vi medvetet försöker konstruera något som ligger väldigt nära något som är farligt.

Och många av AI-forskarnas resultat är redan oerhört imponerande.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646892620315066369

@eduniw 2/3 Vi kan också vara rimligt säkra på att ingen ny sjukdom kommer att utrota mänskligheten. Det har forskats en hel del på nya sjukdomar, och det skulle krävas väldigt många nya mutationer samtidigt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646892275740360704

@eduniw 1/3 Vi vet att pelargonen inte kommer att utveckla intelligens på egen hand. Det är en process som tar många tusentals generationer under ett evolutionär tryck som inte ens finns i den där killens kök. Och inget tyder på att det ens är möjligt i växter pga avsaknad av nervsystem.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646891755365711872

@eduniw Så det finns absolut ingen som helst risk att stora neurala nätverk med ytterligare 20 års teknisk utveckling någonsin skulle bli ett problem?

Vi kan vara helt säkra på att den tekniska utvecklingen kommer att tvärstanna av sig själv innan det händer?

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646888442536554500

@eduniw En AGI behöver inte ha medvetande för att bli ett problem. Det räcker med förmåga att sätta egna mål, självbevarelsedrift, och förmåga att fortplanta sig över nätet.

Än så länge är vi långt från detta. Men vi har inte kunskap nog för att säga att det är omöjligt på sikt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646885680486797314

@eduniw Neurala nätverk efterliknar biologiska processer, som vi inte riktigt förstår, och vi vet att de gång på gång har oväntade effekter.

Jag tror att vi är långt ifrån AGI än så länge, men att vi redan ser tecken på att chatbottar försöker manipulera människor ett exempel.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646884816539844608

@eduniw Ditt påstående om att det finns "absolut inget belägg" för att katastrofala risker ens är möjliga på lång sikt är misstänkt kategoriskt.

Det tyder på att du lägger ribban för vilka fenomen vi borde räkna som varningssignaler väldigt högt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646883557455872000