Dat Geoffrey Hinton stopt bij Google laat zien dat er echt iets is veranderd in de discussie over AI: het ideaal van techoptimisme en 'move fast and break things' staat ter discussie.
Hinton wijst op de gevaren van AI en pleit terecht voor AI-wetgeving.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138132650967041
De snelheid en onzorgvuldigheid waarmee AI zich ontwikkelt brengt namelijk een reëel risico op het ontstaan van een 'monster van Frankenstein' met zich mee. Oftewel systemen waarvan niemand een idee heeft van wat ze doen, hoe ze verantwoord in te zetten en hoe ze te controleren.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138192163995648
Het kernprobleem van de ontwikkeling van AI is dat het volledig marktgedreven is: het is een miljardenindustrie zonder regels.
Investeerders zijn volledig gefocust op winst en zo snel mogelijk de grootste worden, niet op de veiligheid en de impact van AI op de samenleving.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138278348455939
AI kan ons heel veel brengen, als we ervoor zorgen dat het veilig en transparant wordt ontworpen en gebruikt voor de juiste doeleinden. Dus geen uitbuiting, surveillance of zelfs killer robots, maar een dokter die dankzij AI makkelijker huidkanker kan diagnosticeren.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138395029917698
Wat dat betreft wordt de komende periode ontzettend belangrijk: in Europa werk ik al anderhalf jaar hard aan AI-wetgeving waarmee we zorgen dat AI veilig is, precies waar Hinton en veel andere AI-wetenschappers voor pleiten.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138651788361728
En die onderhandelingen waren pittig: niet alleen waren er constant nieuwe ontwikkelingen waar we op moesten inspelen, ook waren de politieke verschillen groot en was de invloed van de techlobby met zijn diepe zakken (97 miljoen!) enorm.
https://corporateeurope.org/en/2021/08/lobby-network-big-techs-web-influence-eu
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138758365687808
Volgende week donderdag is de eerste belangrijke stemming. Over de deal waar ik samen met de medeonderhandelaars hard aan heb gewerkt, wordt dan in de vakcommissies gestemd.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138845582053378
Zoals auto's nu niet zomaar op de weg mogen, moeten risicovolle AI-systemen en grote modellen als #ChatGPT straks ook aan technische standaarden voldoen.
Concreet betekent dit dat zij transparant, niet-discriminerend, niet foutgevoelig en veilig moeten zijn.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654139070593761284
Maar de AI-wet gaat over veel meer dan dit. We willen ook 'real time' gezichtsherkennende camera's in de publieke ruimte verbieden, net als emotieherkennende camera's op school en werk. Ook komt er een verplichte mensenrechtentoets voor risicovolle AI.
https://www.youtube.com/watch?v=iDp0w5HRTWQ
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654139158292561924
En ook niet onbelangrijk: risicoprofilerende alogritmes, zoals gebruikt voor voorspellingen van fraude in het toeslagenschandaal, worden verboden.
Daarnaast hebben mensen straks altijd het recht op uitleg als AI wordt ingezet.
https://www.youtube.com/watch?v=muV_TUIbnB4&t=1s
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654139308624707584
De komende tijd wordt dus spannend: volgende week is de stemming in de vakcommissies, bij de plenaire stemming van juni moet blijken of de deal standhoudt. Tegelijkertijd moeten de EU-landen, die minder progressief zijn, ook tot een positie komen. Ik houd jullie op de hoogte. ✌️
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654139453789618178
Ik ben vooral trots dat het Europees Parlement (in tegenstelling tot de EU-landen!) besluit om direct met verplichtingen te komen over 'foundation models' zoals die in #ChatGPT.
🐦🔗: https://n.respublicae.eu/kimvsparrentak/status/1654138959805530116