India foreslår strenge regler for å merke AI-innhold med henvisning til økende risiko

Indias regjering foreslo onsdag at kunstig intelligens og sosiale medier-firmaer tydelig bør merke AI-generert innhold for å takle spredningen av dyp falsk og feilinformasjon, foranlediget av lignende grep fra EU og Kina.

Med nesten 1 milliard internettbrukere er innsatsen høy i et vidtstrakt land med mange etniske og religiøse samfunn der falske nyheter risikerer å vekke dødelige stridigheter og AI-deepfake-videoer har skremt tjenestemenn under valg.

De nye reglene krever at plattformer merker AI-generert innhold med markører som dekker minst 10 prosent av overflaten til en visuell skjerm eller de første 10 prosentene av varigheten til et lydklipp, og legger mer ansvar på slike som OpenAI, Meta, X og Google.

Sosiale medieselskaper vil også måtte innhente en brukererklæring om hvorvidt opplastet informasjon er AI-generert, og implementere rimelige tekniske tiltak for å sikre kontroller og balanser, heter det i den indiske regjeringens utkast til forslag.

Reglene vil “sikre synlig merking, sporbarhet av metadata og åpenhet for alle offentlige AI-genererte medier,” sa Indias IT-departement, og inviterte til forslag fra publikum og industri innen 6. november.

REGJERINGEN BEKREMT FOR ØKENDE RISIKO VED AI

Potensialet for misbruk av generative AI-verktøy “for å forårsake brukerskade, spre feilinformasjon, manipulere valg eller utgi seg for å være individer har vokst betydelig,” la regjeringen til.

OpenAI, Google og Meta svarte ikke på Reuters-spørsmål.

Indiske domstoler hører høyt profilerte søksmål knyttet til dype forfalskninger. Bollywood-stjernene Abhishek Bachchan og hans kone Aishwarya Rai Bachchan har bedt en dommer i New Delhi om å fjerne og forby oppretting av AI-videoer som krenker deres immaterielle rettigheter, og utfordret YouTubes AI-opplæringspolicy.

Reglene om å dekke 10 prosent av overflaten er “blant de første eksplisitte forsøkene globalt på å foreskrive en kvantifiserbar synlighetsstandard,” sa Dhruv Garg, grunnlegger av forskningsselskapet for offentlig politikk, Indian Governance and Policy Project.

Hvis de implementeres, vil reglene kreve at AI-plattformer i India bygger inn automatiserte merkesystemer for å identifisere og merke AI-generert innhold ved opprettelsen, la han til.

India fremstår som et stort marked for AI-firmaer.

OpenAI-sjef Sam Altman sa i februar at India var det nest største markedet etter antall brukere, som har tredoblet seg det siste året.