Hej! Spanien Ett magasin för nordbor med aktuella reportage på svenska om livet i Spanien och mer därtill.
Spaniens regering har beordrat åklagare att utreda sociala medieplattformar för spridning av AI-genererat material med sexuella övergrepp mot barn.
Artikeln i korthet.
- Spaniens regering utreder sociala medieplattformar som X, Meta och TikTok för spridning av AI-genererat material med sexuella övergrepp mot barn.
- Premiärminister Pedro Sánchez betonar att sådana plattformar hotar barns välbefinnande och rättigheter.
- Myndigheterna fokuserar särskilt på X och dess AI-assistent Grok som används för att skapa och sprida olämpliga bilder.
- Flera andra länder, inklusive Frankrike och Irland, genomför liknande utredningar mot Elon Musks plattformar.
- EU ökar regulatoriskt tryck mot teknologiföretag och överväger strängare regler för AI-innehåll som rör barn.
Brottsutredning har beordrats mot X, Meta och TikTok. Detta är på grund av skapandet och spridningen av sexualiserade deepfakes med hjälp av deras verktyg för artificiell intelligens.
Initiativet har tillkännagetts av Spaniens premiärminister Pedro Sánchez. Han uppgav att sådana plattformar skadar barns psykiska hälsa, värdighet och rättigheter. Enligt honom kan staten inte tillåta att algoritmer för sociala medier förstärker potentiell skada för minderåriga. De tre företagen som Sanchez namngav svarade inte omedelbart på e-postförfrågningar om kommentarer.
Hittills har den största uppmärksamheten från myndigheter riktats mot Elon Musks X-plattform och dess AI-assistent Grok. Den har sedan slutet av förra året aktivt använts för att skapa och sprida genererade bilder som digitalt ”avklär” kvinnor och barn. Samtidigt kan det spanska initiativet vara den första utredningen som inte bara omfattar X utan även Meta och TikTok.
Den spanska regeringen har förklarat sin avsikt att skapa en säker digital miljö för barn och betonat att algoritmisk spridning av skadligt innehåll är oacceptabelt. Utredningen kan omfatta både skapandet av sådant innehåll och mekanismerna för dess distribution via sociala nätverk.
Fler länder agerar i samma riktning.
Spanien är inte det enda landet som utreder sexuellt explicit innehåll som genererats av Elon Musks AI-chatbot Grok på X. Andra regeringar har inlett utredningar, förbud och krav på skyddsåtgärder i en växande global strävan att begränsa olagligt material.
Fransk polis har gjort razzior mot Musks X:s kontor. Åklagare har där beordrat att teknikmiljardären skulle förhöras i en utvidgad utredning mitt i ökande granskning av plattformen från myndigheter över hela Europa. Irlands dataskyddskommission har inlett en formell utredning av Grok gällande behandling av personuppgifter och dess potential att producera skadliga sexualiserade bilder och videor, inklusive av barn.
EU är också på krigsstigen.
Parallellt ökar det regulatoriska trycket på teknikplattformarna i Europeiska unionen. Europeiska kommissionen inledde sina egna förfaranden mot X i slutet av januari enligt lagen om digitala tjänster. Den irländska dataskyddskommissionen har också inlett en utredning om Groks verksamhet i samband med den allmänna dataskyddsförordningen.
Samtidigt diskuterar Europaparlamentet möjligheten till ett alleuropeiskt förbud mot så kallade AI-”pornifierings”-verktyg. Förhandlingar pågår om kriminalisering av att skapa material med sexuella övergrepp mot barn som genererats med artificiell intelligens.
Europeiska kommissionen kommer också att be Meta att tillfälligt upphäva nya villkor som förbjuder konkurrerande AI-chattrobotar att använda WhatsApp. Detta beror på oro för att Meta bryter mot unionens antitrustregler.
Aktuellt relaterat till sociala media:
Spanien planerar åldersgräns för sociala medier.
En Spansk domstol bötfäller storbolag med 479 miljoner euro.
