Guvernør i Californien nedlægger veto mod AI-lov

Mark Sinclair Fleeton

Den demokratiske guvernør i Californien, Gavin Newsom, nedlagde søndag veto mod loven S.B. 1047, der blandt andet ville have krævet test af store AI-systemer inden de kom på markedet og ville have givet statsadvokaten mulighed for at sagsøge virksomheder, hvis deres systemer var skyld i væsentlige skader. Det var ellers forventet fra mange sider, at Newsom ville have sat sin underskrift på loven efter han tidligere på måneden havde underskrevet 18 mindre omfattende love om AI. Loven havde sat en heftig debat i gang både blandt politikere, forskere og techvirksomheder.

S. B. 1047

Den californiske lov har langt fra været den eneste lovgivning om AI vedtaget for nyligt. Da man på føderalt niveau har tøvet med at indføre lovgivning på området, har stater som Colorado, Maryland, Illinois og flere andre vedtaget deres egen lovgivning. Men det har klart været den californiske lovgivning, der har skabt mest opmærksomhed. Baggrunden for interessen for loven ligger i, at den havde fokus på at regulere de mest kraftfulde og ambitiøse AI-modeller – i loven kaldet frontier-systemer (altså systemer i front for udviklingen) – der koster op mod 100$ at udvikle.

En velment lov 

Guvernør Newsom gav som en del af begrundelsen for sit veto, at loven var ”velment”, men at den ikke tog fat på vigtige metoder til vigtige metoder til risiko vurdering. I hans begrundelse siger han, at loven ”ikke tager højde for om et AI-system frigives i et højrisiko miljø, om det involverer afgørende beslutningstagning eller brug af følsomme data.” Newsom har dog rettet henvendelse til en række kapaciteter på AI området, som fx Fei-Fei Li fra Stanford Universitetet, Mariano-Florentino Cuéllar, medlem af the National Academy of Scences Committee on Social and Ethical Implications of Computing Research (komiteen for social og etiske konsekvenser af computer forskning) og Jennifer Tour Chayes, fra Berkeley Universitetet. Han har bedt dem om, at se på, hvordan man udforme en mere omfattende og effektiv lovgivning.

Ophedet debat

Fei-Fei Li, der kaldes af AI’s gudmor, skrev i sidste måned en kommentar i Fortune Magazine, hvor hun kaldte loven skadelig for det amerikanske AI-økosystem, blandt andet fordi den ville pålægge mindre virksomheder store udgifter til at compliance og test og dermed give store techvirksomheder en stor fordel. Den ledende demokrat, Nancy Pelosi, bad ligefrem i et åbent brev i sidste måned demokraterne i Californiens lovgivende forsamling om at nedlægge veto mod loven. Techgiganterne OpenAI, Google og Meta var bekymrede i deres udtalelser for, at loven i højere grad gik efter udviklere end misbrugerne af teknologien. Modsat mente en anden af de store techvirksomheder, Anthropic, at risiciene ved loven nok var mindre end de gavnlige effekter. Og overraskende nok udtalte Elon Musk sig til fordel for loven.

18 AI love er trådt i kraft

Selvom mange havde opfordret Gavin Newsom til at nedlægge veto mod loven, så kom hans beslutning alligevel som en overraskelse. Guvernøren havde allerede tidligere på måneden skrevet under på og dermed ophøjet 18 andre lovforslag om AI-regulering til lov. Den vedtagende lovgivning dækker områder som, vurdering af de potentielle skadevirkninger for energiområdet af generativ A, åbenhed om træningsdata, teknologiforståelse, sundhedsvæsen og robocalls. Newsoms underskrift på den øvrige AI-regulering og hans henvendelse til AI forskerne er dog en klar indikering af, at han er åben overfor en bredere lovgivning på området. I hans begrundelse skriver han: ”Ud fra de udfordringer vi står over for – at beskytte mod reelle trusler uden at ødelægge mulighederne for at fremme det fælles bedste, der ligger i teknologien – så skal vi håndtere dette rigtigt.”