Innspill til KI-satsing
Regjeringen har lagt opp til en nasjonal satsing på kunstig intelligens, den såkalte “KI-milliarden”. Hva det blir til er fortsatt uklart, men det er beskrevet slik:
Forskningsinnsatsen på kunstig intelligens og digitale teknologier skal økes med minst én milliard kroner de neste fem årene. Forskningsmilliarden skal bidra til større innsikt om hvilke konsekvenser teknologiutviklingen har for samfunnet. Den skal også gi mer kunnskap om nye digitale teknologier og muligheter for innovasjon i næringslivet og offentlig sektor.
Forskningsrådet ba om innspill til satsingen og jeg gjengir her punktene vi spilte inn fra RITMO.
Forskningsbehov om samfunnskonsekvenser
Personvern og opphavsrett: Fra et kunst- og musikkfaglig perspektiv er det en frykt for at grunnlaget for en karriere faller bort med generative systemer som kan lage bilder, musikk og spillefilmer på egen hånd. Hvordan blir pengestrømmen når ny kunst er basert på eksisterende verk i form av KI-trening? Det er relativt klare opphavsrettsregler når det gjelder f.eks. musikere som lager ny musikk basert på allerede eksisterende musikk. Derimot har opphavsretten ingen kjøreregler når det gjelder KI-modeller som genererer ny musikk basert på datasett av eksisterende musikk. I mange tilfeller vil kildene forbli ugjenkjennelige for lytterne av den KI-generte musikken, men det finnes også tilfeller hvor kildene er svært gjenkjennelige, eller som er svært lik musikken til en spesifikk artist. Her er det mange juridiske og etiske perspektiver som ikke er godt nok forstått. Det er behov for å forske mer på personvern og opphavsrett i en verden med økende KI-bruk.
Norsk kulturarv: Ettersom maskinlæringsbaserte systemer er avhengige av trening på store og gode datasett, blir det viktig å sikre at datasett med norsk språk, kultur og kunst er tilgjengelige for trening. Her vil mange kunst- og humanioramiljøer kunne bidra, gitt at de allerede jobber med innsamling og kuratering av relevant materiale. Nasjonalbiblioteket er også en stor og viktig ressurs. Det er imidlertid mange utfordringer med å gjøre slike (kvalitative) data tilgjengelige i henhold til FAIR-prinsippene. Det nye nasjonale vitenarkivet kan kanskje løse noen tekniske utfordringer, men det gjenstår mange konseptuelle, juridiske og etiske begrensninger. Så selv om mye av den norske kulturarven har blitt digitalisert de siste årene, er mye data i praksis ikke maskinlesbare eller tilgjengelige. Det må fokuseres mer på utvikling av gode løsninger og lisenser som åpner for maskinlæringsbasert kunst- og kulturforskning.
KIs begrensninger: Humaniora-fagene, og særlig fag innenfor feltene kunst, språk og filosofi, har gode forutsetninger for å diskutere grensene for kunstig intelligens. Hvor viktig er det unike, overraskende, nyskapende og intuitive for kunst-, språk- og intellektuell praksis og i hvilken grad er dette noe kunstig intelligens er i stand til å frembringe?
Forskningsbehov om teknologiutvikling
Kropp og sinn: Maskinlæring har sitt utspring i ideen om å lage kunstige nevrale nettverk inspirert av måten nevronene i menneskehjernen fungerer. Neste generasjons IKT-systemer bør la seg inspirere av den økende forståelsen av hvordan kropp og hjerne spiller sammen i menneskelig kognisjon. Dette inkluderer utviklingen av toveis sensorsystemer som både kan sanse og handle. Robotikksystemer vil være en sentral metodikk for å studere denne samhandlingen, og disse konseptene vil også bidra til utvikling av mer robuste roboter og KI-systemer.
Multimodale systemer: Nyere systemer benytter data fra mange sensorer, men analysen foregår ofte separat per sensor. Det er et stort potensial i å utvikle algoritmer som er grunnleggende “multimodale”, altså at de kombinerer de ulike sanseinntrykkene.
Kollektiv intelligens: Systemer der kompleks og intelligent oppførsel oppstår fra interaksjoner mellom enklere enheter kalles gjerne svermsystemer, multiagentsystemer eller kollektive systemer. I naturen viser slike systemer stor grad av tilpasningsdyktighet og robusthet, og det er ønskelig å forske på hvordan KI-systemer og roboter kan få lignende egenskaper, og hvordan mennesker kan interagere med slike systemer.
Sensitive systemer: Det er også nødvendig å se på utviklingen av systemer som kan håndtere tid på ulike nivåer og med forskjellig grad av sensitivitet. Mennesker har en unik evne til å håndtere informasjon på både kort og lang tid og med lav og høy sensitivitet. Maskiner kan gjøre det samme, men det krever utvikling av systemer som kan parallellprosessere informasjon på nye måter.
Kreative systemer: ChatGPT har vist oss noen av evnene til generative systemer, men det er fremdeles mye ugjort når det kommer til utvikling av systemer som viser ulik grad av kreativitet. Fra et sikkerhetsperspektiv er det viktig å bygge inn mekanismer som kan styre graden av kreativitet avhengig av alvorlighetsgraden av utfallet.
Affektive systemer: For å få til et godt samspill mellom mennesker og maskiner er det nødvendig å komme videre med utviklingen av affektive systemer som kan forstå emosjoner og være empatiske.