Column: Gehandicapten en kwetsbare groepen beschermen tegen deepfake-criminaliteit

Deepfake cybercriminaliteit: aandacht nodig voor de bescherming van gehandicapten, ouderen en andere kwetsbare groepen
Cybercriminaliteit en deepfake slachtoffers: de situatie en aanpak

1. De huidige situatie van deepfake slachtoffers
De afgelopen jaren is het aantal cybermisdrijven waarbij deepfake-technologie wordt gebruikt sterk toegenomen.
Volgens statistieken van de Koreaanse politie is de deepfake-gerelateerde criminaliteit in 2023 met 30% gestegen ten opzichte van 2022, goed voor ongeveer 8,6% van alle cybermisdrijven. De slachtoffers zijn niet alleen gewone burgers, maar ook beroemdheden, publieke figuren en zelfs gehandicapten, wat dit tot een ernstig maatschappelijk probleem maakt.

Analyse van gegevens over cybercriminaliteit van het openbare gegevensportal laat zien dat het aantal deepfake-gerelateerde misdrijven in 2022 als volgt was: △Cyberfinanciële criminaliteit (oplichting via messenger): 24.067 gevallen △Cyberfinanciële criminaliteit (overige): 2.884 gevallen △Schending van persoonlijke locatiegegevens: 2.421 gevallen △Schending van auteursrechten: 1.218 gevallen △Overige misdrijven via informatie- en communicatienetwerken: 3.259 gevallen △Cyberpornografie (algemene pornografie): 1.366 gevallen △Cyberpornografie (kinderpornografie): 2.384 gevallen △Cyberpornografie (illegale distributie van opnames): 2.232 gevallen △Cybergokken (sporttoto): 4.291 gevallen △Cybergokken (paardenrennen, wielrennen, motorbootraces): 1.709 gevallen △Cybergokken (casino): 3.193 gevallen △Cybergokken (overige): 3.884 gevallen △Cyberlaster (belediging): 22.042 gevallen
△Cybers stalking: 7.687 gevallen △Overige illegale content: 1.769 gevallen, etc.

2. Slachtoffers onder gehandicapten en niet-gehandicapten
Deepfake-criminaliteit heeft een bijzonder ernstige impact op gehandicapten. Deepfake-misdrijven gericht op gehandicapten vertegenwoordigen ongeveer 15% van alle gevallen, wat aangeeft dat gehandicapten een grotere kwetsbaarheid in de maatschappij ervaren. Zij ondervinden door dergelijke misdrijven meer psychisch lijden en verliezen vaak hun maatschappelijk vertrouwen.

Ook niet-gehandicapte slachtoffers ondervinden ernstige gevolgen van deepfake-criminaliteit. Hun imago en reputatie worden aangetast, met grote gevolgen voor zowel hun privéleven als hun professionele leven.

3. De maatschappelijke schade
De maatschappelijke schade door deepfake-criminaliteit is enorm. Gebaseerd op de bovenstaande gegevens en aannames, bedragen de gemiddelde kosten per slachtoffer ongeveer 11 miljoen won. Als we aannemen dat er jaarlijks 1.000 deepfake-misdrijven plaatsvinden, bedragen de totale schade ongeveer 11 miljard won. Dit brengt een grote economische last met zich mee, niet alleen voor individuen maar voor de hele maatschappij.

4. Preventie en ondersteuning van slachtoffers
Om deepfake-criminaliteit te voorkomen en slachtoffers te ondersteunen, zijn de volgende inspanningen nodig:

△Versterking van preventie-educatie: Programma's ter bevordering van het bewustzijn over de risico's van deepfake-criminaliteit en het aanleren van preventiemethoden moeten worden uitgebreid. Met name voor gehandicapten moeten op maat gemaakte programma's worden ontwikkeld om verdere schade te voorkomen.

△Versterking van de juridische sancties: De juridische sancties voor deepfake-criminaliteit moeten worden versterkt om het afschrikkende effect te vergroten. Met name voor misdrijven tegen gehandicapten moeten zwaardere straffen worden opgelegd.

△Versterking van de ondersteuning van slachtoffers: Er moet een systeem worden opgezet dat slachtoffers snel en effectief kan ondersteunen. De centra voor ondersteuning van slachtoffers van digitale seksuele misdrijven moeten worden versterkt en er moeten deskundige adviseurs en juridische professionals worden ingezet om slachtoffers te helpen de juridische procedures te begrijpen en toegang te krijgen tot deze procedures.

3. Een overzicht van de gevolgen voor gehandicapten en niet-gehandicapten en de problemen
Deepfake-criminaliteit kan iedereen treffen, maar gehandicapten zijn bijzonder kwetsbaar. Deepfake-misdrijven gericht op gehandicapten vertegenwoordigen ongeveer 15% van alle gevallen en laten zien dat gehandicapten in de maatschappij meer geïsoleerd zijn. Ook niet-gehandicapte slachtoffers ondervinden veel leed door deepfake-criminaliteit, met grote gevolgen voor zowel hun privéleven als hun professionele leven.

4. Overheidsbudget voor de preventie van schade door digitale content: inzet en resultaten
In 2023 heeft de Koreaanse overheid ongeveer 50 miljard won uitgetrokken voor de preventie van deepfake-criminaliteit. Dit budget werd besteed aan diverse gebieden, zoals preventie-educatieprogramma's, versterking van de juridische sancties, verbetering van de ondersteuning van slachtoffers en onderzoek en ontwikkeling van technische oplossingen. Als gevolg hiervan zijn veel mensen zich meer bewust geworden van de risico's van deepfake-criminaliteit door preventie-educatie, en is er een systeem opgezet om deepfake-criminaliteit snel op te sporen en te bestraffen dankzij versterkte juridische sancties en infrastructuur.

5. Concrete voorbeelden van deepfake-schade en het overheidsbeleid voor de bescherming van kwetsbare groepen
Deepfake-criminaliteit treft vooral kwetsbare groepen in de maatschappij. Daarom heeft de overheid de volgende beleidslijnen geformuleerd:

△Versterking van preventie-educatie: Programma's ter bevordering van het bewustzijn over de risico's van deepfake-criminaliteit en het aanleren van preventiemethoden worden uitgebreid, met name voor jongeren en gehandicapten.

△Versterking van de juridische sancties: De juridische sancties voor deepfake-criminaliteit worden versterkt om het afschrikkende effect te vergroten. Met name voor misdrijven tegen gehandicapten worden zwaardere straffen opgelegd.

△Versterking van het ondersteuningssysteem voor slachtoffers: Om ervoor te zorgen dat slachtoffers snel ondersteuning krijgen, worden er meer centra voor slachtofferhulp opgezet en worden er deskundige adviseurs en juridische professionals ingezet.

△Onderzoek en ontwikkeling van technische oplossingen: Er moet voortdurend worden geïnvesteerd in onderzoek naar het ontwikkelen van technologieën voor het opsporen en blokkeren van deepfakes.

Op dit moment is er een gebrek aan nauwkeurige en systematische big data-analyse van het aantal deepfake-incidenten gericht op gehandicapten en de impact ervan. Dit komt door de volgende redenen:

Moeilijkheden bij het verzamelen van gegevens: Deepfakes worden vaak op een verborgen manier gemaakt en verspreid, waardoor het moeilijk is om het exacte aantal gevallen te achterhalen. Vooral gehandicapte slachtoffers aarzelen vaak om aangifte te doen, en als ze dat wel doen, is er een grote kans dat de zaak wordt afgezwakt of verdoezeld.

Vage definitie: De definitie van deepfake is niet duidelijk en er verschijnen voortdurend nieuwe soorten deepfakes door de snelle technologische ontwikkelingen. Dit maakt het moeilijk om de reikwijdte van de gegevensanalyse te definiëren en de omvang van de schade nauwkeurig te bepalen.
△Gebrek aan gespecialiseerd personeel: Er is een gebrek aan gespecialiseerd personeel en budget voor de analyse van deepfake-technologie, waardoor systematisch onderzoek achterblijft.

Potentiële impact
Hoewel nauwkeurige statistieken ontbreken, kunnen deepfake-incidenten gericht op gehandicapten de volgende ernstige gevolgen hebben:

Ernstig psychisch lijden: De verspreiding van deepfake-video's kan leiden tot extreme schaamte en psychisch lijden bij het slachtoffer, wat kan leiden tot zelfmoord.
△Sociale isolatie: Deepfake-schade kan het vertrouwen van een persoon ondermijnen en sociale relaties verstoren, wat kan leiden tot isolatie van het slachtoffer.

△Toename van digitale seksuele misdrijven: Deepfake-technologie maakt digitale seksuele misdrijven ernstiger, en gehandicapten kunnen hierdoor nog meer schade ondervinden vanwege hun fysieke kenmerken of hun kwetsbare positie in de maatschappij.

△Versterking van sociale vooroordelen tegenover gehandicapten: Deepfake-video's kunnen negatieve opvattingen over gehandicapten versterken en sociale discriminatie verergeren.

De weg voorwaarts

Om de ernst van deepfake-incidenten gericht op gehandicapten te erkennen en systematische oplossingen te ontwikkelen, zijn de volgende inspanningen nodig:

△Opzetten van een systeem voor het verzamelen en analyseren van gegevens: De overheid, de academische wereld en maatschappelijke organisaties moeten samenwerken om een systeem op te zetten voor het systematisch verzamelen en analyseren van deepfake-gerelateerde gegevens.
△Opleiding van gespecialiseerd personeel: Er moet gespecialiseerd personeel worden opgeleid op het gebied van deepfake-technologieanalyse en een omgeving worden gecreëerd waarin zij kunnen werken.
△Juridische en institutionele verbeteringen: De wetgeving met betrekking tot deepfakes moet worden versterkt en er moet een systeem voor de ondersteuning van slachtoffers worden opgezet.
△Voorlichtingscampagnes: Er moeten campagnes worden gevoerd om het bewustzijn over de ernst van deepfakes te vergroten en de maatschappelijke steun voor slachtoffers te vergroten.
△Technologieontwikkeling: De ontwikkeling van technologieën voor het opsporen en verwijderen van deepfake-video's moet worden ondersteund en de commercialisering van deze technologieën moet worden bevorderd.