Max Andersson @MaxAndersson@respublicae.eu

Och priset för årets sämsta spaning om riskerna med AU går till @ErikSlottner.

Om vi skapar en superintelligent AI vi inte kan kontrollera så är det inte fördel för oss om den inte kan skilja på rätt och fel.

Tvärtom!

https://www.aftonbladet.se/nyheter/a/Q7Ekkx/erik-slottner-om-ai-tekniken-som-kan-komma-att-forbjudas

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647612677735215105

Jag tror att science fiction-författare kommer att klara sig bättre än de flesta.

Det kommer att vara svårt att träna upp en AI att analysera hur en ny idé påverkar en hel värld och spegla det i bokform.

De bästa SF-författarna kommer att klara sig ett bra tag till.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647524024568754178

Kulturskribenter ligger sannolikt betydligt sämre till än skönlitterära författare. Det är mycket lättare att träna en AI till att skriva korta texter, än långa.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647522503022002177

Det är inte nödvändigt att AI blir bättre än riktiga skribenter. Det räcker om de blir tillräckligt bra för att man ska kunna tjäna pengar på att ta in en AI istället.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647522047541624834

Ett intressant exempel på förnekelse. AI är redan bra nog för att ta jobb från illustratörer. Problemet med fingrar är redan löst.

Det är bara en tidsfråga innan texterna blir bra nog att ta jobb från skribenter också.

https://www.etc.se/kronika/daerfoer-aer-ai-ett-icke-hot-mot-kulturvaerlden

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1647521194277576706

När jag satt i EU-parlamentet avvek jag från grupp-linjen och röstade för en gene-drive mot malaria.

Det är värt att titta på riskerna men de verkar vara små, och i andra vågskålen ligger väldigt många människors liv.
RT @ScienceAlly: Gene drive technologies have enormous potential for malaria control and would significantly aid in existing anti-malaria efforts being pursued in Africa 🐜
https://t.co/0sV5pOxmYC

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646910480290570248

@eduniw Jag betraktar fortfarande hypotesen om att det krävs något mystiskt biologiskt inslag för att AI kunna utgöra ett allvarligt problem som både obevisad och osannolik.

Men jag får passa på att tacka för en givande diskussion. Jag har lärt mig något och fått flera goda idéer.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646908310090653699

@eduniw Det har du i och för sig rätt i.

Min första version av tweeten var "visa mig en pelargon som kan manipulera en människa att genomföra ett jag-är-inte-en-robot-test".

Det må vara vetenskapligt rimligare, men låter inte lika roligt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646907386739802113

@eduniw "Inget tyder heller på att det är möjligt för datorer att utveckla medvetande. Växter är mycket närmare det skulle jag vilja hävda"

Om du kan visa mig en pelargon som kan klara ett Turing-test så lovar jag att hålla med dig.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646906171268255746

@eduniw AI behöver inte medvetande för att bli ett problem.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646904660383375362

@eduniw 3/3 När det gäller AGI handlar det dock om att vi medvetet försöker konstruera något som ligger väldigt nära något som är farligt.

Och många av AI-forskarnas resultat är redan oerhört imponerande.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646892620315066369

@eduniw 2/3 Vi kan också vara rimligt säkra på att ingen ny sjukdom kommer att utrota mänskligheten. Det har forskats en hel del på nya sjukdomar, och det skulle krävas väldigt många nya mutationer samtidigt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646892275740360704

@eduniw 1/3 Vi vet att pelargonen inte kommer att utveckla intelligens på egen hand. Det är en process som tar många tusentals generationer under ett evolutionär tryck som inte ens finns i den där killens kök. Och inget tyder på att det ens är möjligt i växter pga avsaknad av nervsystem.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646891755365711872

@eduniw Så det finns absolut ingen som helst risk att stora neurala nätverk med ytterligare 20 års teknisk utveckling någonsin skulle bli ett problem?

Vi kan vara helt säkra på att den tekniska utvecklingen kommer att tvärstanna av sig själv innan det händer?

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646888442536554500

@eduniw En AGI behöver inte ha medvetande för att bli ett problem. Det räcker med förmåga att sätta egna mål, självbevarelsedrift, och förmåga att fortplanta sig över nätet.

Än så länge är vi långt från detta. Men vi har inte kunskap nog för att säga att det är omöjligt på sikt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646885680486797314

@eduniw Neurala nätverk efterliknar biologiska processer, som vi inte riktigt förstår, och vi vet att de gång på gång har oväntade effekter.

Jag tror att vi är långt ifrån AGI än så länge, men att vi redan ser tecken på att chatbottar försöker manipulera människor ett exempel.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646884816539844608

@eduniw Ditt påstående om att det finns "absolut inget belägg" för att katastrofala risker ens är möjliga på lång sikt är misstänkt kategoriskt.

Det tyder på att du lägger ribban för vilka fenomen vi borde räkna som varningssignaler väldigt högt.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646883557455872000

@eduniw Många människor väljer att ignorera mycket små risker. Det är något som funkar någorlunda i vardagslivet, men när det gäller globala katastrofer är det irrationellt.

Vi behöver betydligt mer forskning om hur vi ska hanterar riskerna med AGI.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646825932261404673

@eduniw När det gäller AGI vet vi inte om risken är 50% eller 0,01%.

Till skillnad från stora delar av miljörörelsen anser jag att en hel del risker är värda att ta, men när konsekvenserna är tillräckligt allvarliga så bör man undvika även mycket små risker.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646825297465966593

@eduniw Tack för bra svar, 17 % är ingen dålig svarsfrekvens, men det är naturligtvis en stor risk att det blir ett skevt urval med den här sortens enkäter.

Men utan att övertolka visar den ändå att det finns forskare i ämnet som tar risken på allvar.

🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1646824055608074240