Dnes v http://Prg.AI budu debatovat se zástupcem Rady EU i zástupci byznysu o chystaném AI Actu. Pokusím se proto před debatou shrnout pro vás do vlákna hlavní body návrhu zákona, které je podle mě důležité znát (pozor, nejedná se o mé názory, ale realitu návrhu!):
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478073795461128
1/n Největší dilema představovala kategorizace systémů vysokého rizika. Nakonec se zakotvilo hl. na systémech pro testování studentů, policejních (polygrafy), náborových, pro soudce, migrační (ověřování dokladů, způsobilost), v energetice ad. Mohou ale žádat o výjimku.
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478076437893120
2/n ChatGPT a spol. nejsou systémy s vysokým rizikem, ale pod novým čl. 28b jako foundation models, s povinností určitých pravidel v EU - vyhodnocení rizik & náprava, biasy, predikovatelnost, záruky kyberzpečnosti, intrepretovatelnost, registrace v EU databázi a odkud mají data.
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478079441002498
4/n Zcela by se mělo zakázat emoční rozpoznávání (na hranicích, vzdělávání, pracovištích a v trestním řízení), genderu a sexuality, zákaz biometrického sledování, a profilování rizika pro predikci kriminality (jako značně diskriminační).
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478084746772480
5/n Největší a oprávněné haló vyvolává spor o open-source. Píšu toto vlákno informativně, ne jako hřání vlastní polívčičky, kdy asi nikoho nepřekvapí, že my za OS bojujeme - o průšvihu ale mluví celý svět. Pod aktuálním návrhem by mohli používat open source pouze "tradiční"
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478087875743745
6/n modely strojového učení, ale již ne nové generativní modely. Hrozí, že po umístění kódu nebo modelu na GitHub by vývojář OS byl odpovědný za zveřejnění nelicencovaného modelu (a GitHab za hostování). To je samozřejmě průšvih, a musí se v trialogu změnit.
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478090622996483
7/n Tím se dostávám k závěru: výhled. V červnu o vlastním návrhu hlasuje EP, pak začnou trialogy. Snad do konce roku. Zákon má pak platit 2 roky po zveřejnění ve věstníku. Na příkladu GDPR lze očekávat prodlevy v implementaci. Očekávejte tak platný a vymáhaný AI Act nejdřív 2029.
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478093017952259
3/n Do této EU databáze se budou muset registrovat poskytovatelé systémů v kategorii vysokého rizika a foundation models, a jejich nasazovatelé, pokud jsou to orgány veřejné moci nebo BigTech podle Digital Markets Act. Ostatní mohou dobrovolně.
🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478082137948162