@MathiasSundin @AndersWijkman 1) Så här tänker jag, som icke-expert, med biologi-utbildning i bagaget.
En AGI behöver varken jag-medetande eller någon hypotetisk "själ" för att bli farlig.
Det räcker med initiativförmåga, och självbevarelsedrift och förmåga att planera. ChatGPT är alltså ofarlig.
🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1645734488360583170
@MathiasSundin @AndersWijkman 2) Vi vet inte hur jag-medvetande uppstår. Men det kan inte vara så fruktansvärt svårt. Alla (eller nästan alla) bebisar uppnår, eller har uppnått det nästan per automatik.
Många djur känner igen sig själva i en spegel.
🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1645736440234496006
@MathiasSundin @AndersWijkman 3) Många djur som inte kan känna igen sig själva i en spegel - som katter - kan ändå kommunicera, sätt egna mål, och planera.
Många djur med ganska små hjärnor, som möss, verkar har självbevarelsedrift.
🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1645737693547044864
@MathiasSundin @AndersWijkman 4) En av de strategier som används för att utveckla AGI är neurala nätverk, som är ett försök att efterlikna naturliga nervsystem.
De leder till oväntade, oförutsägbara effekter, som till exempel chatboten som lurade en människa att lösa ett jag-är-inte-en-robot-test.
🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1645738366476906496
@MathiasSundin @AndersWijkman 5) En sak vi lärt oss om AI-forskning är att vi människor är oerhört dåliga på att förutsäga hur snabbt utvecklingen går.
Chat-botarna har utvecklats väldigt snabbt, medan självkörande bilar har visat sig vara ett svårare problem att knäcka än många trodde.
🐦🔗: https://n.respublicae.eu/MaxAndersson/status/1645739125734088704