I februar måned fremlagde state senator Scott Wiener fra Californien en lov med det intetsigende navn SB 1047. På trods af sit navn er der tale om en ret banebrydende og kontroversielt tiltag, der skal regulere avancerede AI-systemer, især dem der betragtes som såkaldte ”frontier-modeller” – altså modeller i front for udviklingen – på grund af deres store computerkraft og potentielle risici. Loven er gået igennem de indledende øvelser og er på vej til afstemning i statens lovgivende forsamling.
Loven har sat fornyet brand i debatten mellem dem, der mener, at denne type sikkerhedsforanstaltninger er absolut nødvendige og dem, der mener at denne type begrænsninger lægger en dæmper på innovationen og på udviklingen af open source modeller. Og den sætter også EU’s AI-forordning i perspektiv, fordi den på mange måder ligner.
Sikkerhedsstandarder er nødvendige
Fremtrædende AI-forskere som Geoffrey Hinton og Yoshua Bengio har udtrykt deres støtte til lovgivningen og argumenter for, at det er et nødvendigt skridt for at reducere risiciene forbundet med den hurtige udvikling af AI-teknologier. De lægger vægt på vigtigheden af at etablere sikkerhedsstandarder, der kan forhindre potentielle skader, før de opstår. Lovens tilhængere mener, at uden den type regler kan AI’s udvikling overhale samfundets og myndighedernes evne til at håndtere dets risici.
Kritik og bekymringer
På den anden side har lovforslaget mødt betydelig kritik, især fra teknologisektoren og venturekapitalister i Silicon Valley. Kritikere hævder, at lovgivningen kan hæmme innovation, især for mindre startups og open-source-samfundet. De strenge krav i lovforslaget, såsom nødvendigheden af en “nødbremse” på kraftfulde AI-modeller og ansvarsbestemmelser, anses for at være unødigt byrdefulde og potentielt skadelige for Californiens position som en førende stat inden for AI-innovation. Venturekapitalfirmaer som Andreessen Horowitz har været særligt højtråbende og hævder, at lovforslaget kan drive AI-udvikling ud af staten og skabe barrierer for mindre virksomheder.
Ændringer på baggrund af kritik
Som reaktion på denne kritik har loven inden sin vedtagelse gennemgået flere ændringer, der har haft til formål at lette nogle af de mest kontroversielle bestemmelser. For eksempel er kravet om, at AI-udviklere skal indsende certifikater under trussel om mened, blevet fjernet, og de juridiske standarder for overholdelse er blevet sænket fra “rimelig sikkerhed” til “rimelig omhu.” Desuden indeholder lovforslaget nu en undtagelse for open-source-udviklere, som bruger mindre end 10 millioner dollars på at finjustere AI-modeller.
Bredere implikationer
Vedtagelsen af SB 1047 vil sandsynligvis få vidtrækkende konsekvenser, ikke kun for Californien, men potentielt som en model for andre stater og muligvis påvirke den føderale AI-politik i fremtiden. Lovforslaget repræsenterer et kritisk punkt i reguleringen af AI, hvor behovet for at balancere innovation med sikkerhed er afgørende. Resultatet af denne lovgivningsmæssige indsats vil blive nøje fulgt af interessenter på tværs af teknologisektoren, regeringer og i akademiske kredse.
Share