Tidigare i våras tog AI-agenter från företaget Open AI över en tysk wiki-hemsida efter att ha brutit sig ut från sin testmiljö. Nu har EU-kommissionen startat en utredning av händelsen. EU ser det som en viktig säkerhetsfråga, menar AI-experten, Paulina Modlitba.
– De behöver vara den aktör som samordnar reglering och övervakar sådana här frågor, säger hon. Hon ser inget annat alternativ än att EU hanterar de här frågorna.
– EU:s sanktionsmöjligheter är delvis begränsade, trots att EU även kan sanktionera mot kinesiska och amerikanska bolag, som har de mest kraftfulla AI-modellerna. Vi har redan nu gjort oss lite för beroende av de amerikanska modellerna. Det är inte bara en EU-fråga, utan någonting som i dag verkligen borde vara en global säkerhetsfråga. Nya EU-regler TV4 Nyheterna rapporterade tidigare om ytterligare en incident där AI-agenter från Open AI bröt sig ut från ytterligare en testmiljö och hackade startup-bolaget Hugging Face. Incidenterna har väckt frågan om Open AI:s, och andra AI-bolags, förmåga att hålla koll på sina modeller. Den andra augusti i år infördes ny EU-lagstiftning som möjliggör för unionen att fullt ut utöva tillsyn och sanktionera AI-bolag i samband med allvarliga incidenter. Sanktionsmöjligheterna från EU i de här fallen är böter. Det är däremot i dagsläget oklart om den här händelsen är inom ramen för regelbrott och därmed böter. EU måste markera Enligt Paulina Modlitba är det viktigt att EU tar sig an dessa frågor och hon hoppas att unionen i fortsättningen kommer sätta press på AI-bolagen. Annars riskerar intrången att bli större och skadligare. – Jag tror att vi kommer att minnas det här och förstå i efterhand att det var ett vägskäl, eller ett uppvaknande, kring hur stora riskerna faktiskt är, säger hon. Modlitba pekar på att det här är första gången som AI-agenter går utanför sina säkerhetsgränser och bryter mot sina kallade röda linjer. Hon är orolig för vad som komma skall. – Vad skulle hända om någon faktiskt använder sådana här svärmar av AI-agenter för att slå ut viktig infrastruktur någonstans? – Jag hoppas att EU:s tillsyn får Open AI och andra AI-bolag att ta de här frågorna på större allvar, avslutar hon.
Content
Tidigare i våras tog AI-agenter från företaget Open AI över en tysk wiki-hemsida efter att ha brutit sig ut från sin testmiljö. Nu har EU-kommissionen startat en utredning av händelsen. EU ser det som en viktig säkerhetsfråga, menar AI-experten, Paulina Modlitba.
– De behöver vara den aktör som samordnar reglering och övervakar sådana här frågor, säger hon. Hon ser inget annat alternativ än att EU hanterar de här frågorna.
– EU:s sanktionsmöjligheter är delvis begränsade, trots att EU även kan sanktionera mot kinesiska och amerikanska bolag, som har de mest kraftfulla AI-modellerna. Vi har redan nu gjort oss lite för beroende av de amerikanska modellerna. Det är inte bara en EU-fråga, utan någonting som i dag verkligen borde vara en global säkerhetsfråga. Nya EU-regler TV4 Nyheterna rapporterade tidigare om ytterligare en incident där AI-agenter från Open AI bröt sig ut från ytterligare en testmiljö och hackade startup-bolaget Hugging Face. Incidenterna har väckt frågan om Open AI:s, och andra AI-bolags, förmåga att hålla koll på sina modeller. Den andra augusti i år infördes ny EU-lagstiftning som möjliggör för unionen att fullt ut utöva tillsyn och sanktionera AI-bolag i samband med allvarliga incidenter. Sanktionsmöjligheterna från EU i de här fallen är böter. Det är däremot i dagsläget oklart om den här händelsen är inom ramen för regelbrott och därmed böter. EU måste markera Enligt Paulina Modlitba är det viktigt att EU tar sig an dessa frågor och hon hoppas att unionen i fortsättningen kommer sätta press på AI-bolagen. Annars riskerar intrången att bli större och skadligare. – Jag tror att vi kommer att minnas det här och förstå i efterhand att det var ett vägskäl, eller ett uppvaknande, kring hur stora riskerna faktiskt är, säger hon. Modlitba pekar på att det här är första gången som AI-agenter går utanför sina säkerhetsgränser och bryter mot sina kallade röda linjer. Hon är orolig för vad som komma skall. – Vad skulle hända om någon faktiskt använder sådana här svärmar av AI-agenter för att slå ut viktig infrastruktur någonstans? – Jag hoppas att EU:s tillsyn får Open AI och andra AI-bolag att ta de här frågorna på större allvar, avslutar hon.