Dnes v http://Prg.AI budu debatovat se zástupcem Rady EU i zástupci byznysu o chystaném AI Actu. Pokusím se proto před debatou shrnout pro vás do vlákna hlavní body návrhu zákona, které je podle mě důležité znát (pozor, nejedná se o mé názory, ale realitu návrhu!):

🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478073795461128

1/n Největší dilema představovala kategorizace systémů vysokého rizika. Nakonec se zakotvilo hl. na systémech pro testování studentů, policejních (polygrafy), náborových, pro soudce, migrační (ověřování dokladů, způsobilost), v energetice ad. Mohou ale žádat o výjimku.

🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478076437893120

2/n ChatGPT a spol. nejsou systémy s vysokým rizikem, ale pod novým čl. 28b jako foundation models, s povinností určitých pravidel v EU - vyhodnocení rizik & náprava, biasy, predikovatelnost, záruky kyberzpečnosti, intrepretovatelnost, registrace v EU databázi a odkud mají data.

🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478079441002498

3/n Do této EU databáze se budou muset registrovat poskytovatelé systémů v kategorii vysokého rizika a foundation models, a jejich nasazovatelé, pokud jsou to orgány veřejné moci nebo BigTech podle Digital Markets Act. Ostatní mohou dobrovolně.

🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478082137948162

4/n Zcela by se mělo zakázat emoční rozpoznávání (na hranicích, vzdělávání, pracovištích a v trestním řízení), genderu a sexuality, zákaz biometrického sledování, a profilování rizika pro predikci kriminality (jako značně diskriminační).

🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478084746772480

5/n Největší a oprávněné haló vyvolává spor o open-source. Píšu toto vlákno informativně, ne jako hřání vlastní polívčičky, kdy asi nikoho nepřekvapí, že my za OS bojujeme - o průšvihu ale mluví celý svět. Pod aktuálním návrhem by mohli používat open source pouze "tradiční"

🐦🔗: https://n.respublicae.eu/MarketkaG/status/1658478087875743745