AI-genererade nakenbilder cirkulerar på nätet

Polisen i Spanien utreder appen ClothOff som används för att göra konstgjorda nakenbilder på minderåriga skolflickor som sprids på Internet.

AI konstgjord intelligens

Appen låter dig konvertera alla foton av personer till nakenfoton med hjälp av artificiell intelligens. Användningen av den som i fallet med de minderåriga flickorna i Almendralejo kan utgöra ett brott.

Artificiell intelligens finns redan i vårt dagliga liv. I de flesta fall på ett positivt sätt, eftersom det kan utföra en mängd uppgifter automatiskt (generera text och rekommendationer, skapa logotyper och reklambanners, etc.). Men det har också en mörk sida som kan bryta mot lagen. Det senaste exemplet på detta är ClothOff, appen som används av ungdomar från Almendralejo (Badajoz) för att klä av” flera minderåriga i området.

Detta har hänt i Almendralejo.

När barnen kom tillbaka till skolan efter sommarlovet blev alla snart på det klara med att det cirkulerade nakenbilder av kvinnliga klasskamrater. Dessa bilder skickades runt på allas telefoner, flickorna blev chockade när pojkar kom fram och sa ”jag har sett ett nakenfoto av dig”.

Almendralejo är en liten stad i provinsen Badajos i Extremadura, med under 30.000 invånare och i stort sett känner alla varandra. En mamma skapade en WhatsApp-grupp för att koordinera detta och de blev snabbt 27 personer i gruppen. Det visade sig då att det var fler än 20 flickor som var drabbade av denna konstgjorda avklädning.

Fallet hanteras av polisen i Almendralejo och de har redan lyckats identifiera flera av upphovsmännen till bilderna. Ärendet har nu lagts i händerna på ungdomsåklagarmyndigheten. Poliskällor i Extremadura säger att de känner till sju anmälningar så här långt. Dagstidningen El País (Spaniens största morgontidning) uppger att enligt poliskällor är utredningen fortfarande öppen.

Så här fungerar appen som gör AI-genererade nakenbilder.

Applikationens slogan gör det väldigt tydligt: ”Klä av tjejer gratis”. Naturligtvis fungerar det inte bara med kvinnor, eftersom män också kan bli offer för detta artificiella intelligensprogram. Det enda kravet, som anges i handledningen, är att personen framträder ensam på bilden och inte bär tjocka kläder.

Naturligtvis är det en kostnad att använda ClothOff. För varje ”nakenbild” måste användaren spendera en virtuell valuta, som kallas en ”token”. Appen beviljar två till varje användare när registreringsprocessen slutförs. När du har spenderat dessa måste du vänta tre dagar för att få mer eller, om det inte gör det, bjuda in vänner eller betala. Standardpriset är två dollar för fyra ”tokens”, men det är möjligt att köpa upp till 1.600 åt gången för 500 $.

Företaget friskriver sig från allt ansvar.

Om det är något som upprepas om och om igen både på ClothOff-webbplatsen och i villkoren för tjänsten så är det friskrivningsklausulen från företaget bakom appen. Faktum är att dokumentet är fullt av fraser som ”du är ensam ansvarig för bilderna som genereras” eller ”du är ansvarig för att inte använda applikationen för olagliga ändamål.” Den förbehåller sig också rätten att eliminera alla som inte följer dessa föreskrifter, vilket uppenbarligen inte har hänt i Almendralejo.

Förmodligen, när det gäller de minderåriga i Almendralejo, har rätten till personlig integritet, heder och självbild kränkts. Vilket ingår i artikel 18.1 i den spanska konstitutionen och skyddas i strafflagen. Problemet är dessutom inte bara att författarna utförde förfalskningarna, utan också att de spred det genom WhatsApp-grupper utan tillstånd.

De ansvariga för ClothOff säger att applikationen lanserades på marknaden sista juli 2023 efter två års utvecklingsarbete. De har en profil på X (Twitter) med 3.000 följare. Men detta är ingenting jämfört med dess Telegram-kanal, som har cirka 750.000 prenumererande användare. Genom den rapporterar de senaste nyheterna och integrerade ”förbättringar”.

Det uppskattas att minst 30.000 personer använder appen varje dag, de framhåller själva att de har en tillväxt på 30 % dagligen. De ber dessutom om hjälp från allmänheten för att utöka appen och översätta den till flera språk.

Fler brott relaterade till sociala media:

Bedrägerivarning på sociala media.


Jonny Erixon

Skribent, fotograf och konsult, född och uppvuxen i Sverige men jag är bosatt och arbetar i södra Spanien sedan 2001. Ett land som jag har lärt mig uppskatta mer och mer för varje år.

Läs också

Lokalpolisen i Málaga.

Hastighetskontroller med radar för elsparkcyklar

Málaga har börjat med radarkontroller av elsparkcyklarnas framfart i staden, de första böterna på 200 …