[Columna sobre la concienciación de la discapacidad] Delitos de deepfake: protección de personas con discapacidad y grupos vulnerables

Delitos cibernéticos de deepfake: necesaria la atención a la protección de personas con discapacidad, ancianos y otros grupos vulnerables
Ciberdelincuencia y víctimas de deepfake: situación actual y medidas de respuesta

1. Situación actual de las víctimas de deepfake
En los últimos años, ha aumentado considerablemente el número de delitos cibernéticos que utilizan la tecnología deepfake. Según las estadísticas de la Policía Nacional de Corea, los delitos relacionados con deepfake aumentaron un 30% en 2023 en comparación con el año anterior, representando aproximadamente el 8,6% del total de delitos cibernéticos. En particular, las víctimas no se limitan a personas comunes, sino que se están extendiendo a celebridades, figuras públicas y personas con discapacidad, lo que se está convirtiendo en un grave problema social.

Según el análisis de los datos relacionados con los delitos cibernéticos proporcionados por el portal de datos públicos, el número de delitos relacionados con deepfake ocurridos en 2022 es el siguiente: △Delitos ciberfinancieros (estafas a través de mensajería): 24.067 casos △Delitos ciberfinancieros (otros): 2.884 casos △Violación de la información de ubicación personal: 2.421 casos △Violación de los derechos de autor cibernéticos: 1.218 casos △Otros delitos relacionados con el uso de redes de información y comunicación: 3.259 casos △Pornografía cibernética (pornografía general): 1.366 casos △Pornografía cibernética (pornografía infantil): 2.384 casos △Pornografía cibernética (difusión de material filmado ilegalmente): 2.232 casos △Apuestas cibernéticas (toto deportivo): 4.291 casos △Apuestas cibernéticas (carreras de caballos, ciclismo y carreras de botes): 1.709 casos △Apuestas cibernéticas (casino): 3.193 casos △Apuestas cibernéticas (otros): 3.884 casos △Difamación cibernética (insulto): 22.042 casos
△Acoso cibernético: 7.687 casos △Otro contenido ilegal: 1.769 casos, etc.

2. Víctimas con y sin discapacidad
Los delitos de deepfake están teniendo un impacto particularmente grave en las personas con discapacidad. Los delitos de deepfake dirigidos a personas con discapacidad representan aproximadamente el 15% del total de casos, lo que demuestra la mayor vulnerabilidad social de estas personas. Las personas con discapacidad sufren un mayor dolor emocional a causa de estos delitos y, en muchos casos, pierden la confianza social.

Las víctimas sin discapacidad también están sufriendo graves daños a causa de los delitos de deepfake. Su imagen y reputación se ven dañadas, lo que afecta no solo a su vida personal, sino también a su vida profesional.

3. Impacto económico social
El impacto económico social de los delitos de deepfake es enorme. Según los datos y supuestos presentados anteriormente, si el coste medio que sufre una víctima es de aproximadamente 11 millones de wones y se supone que se producen 1.000 delitos de deepfake al año, el coste total de los daños ascendería a aproximadamente 11 billones de wones. Esto supone una gran carga económica no solo para las personas, sino también para toda la sociedad.

4. Actividades de prevención y apoyo a las víctimas
Para prevenir los delitos de deepfake y apoyar a las víctimas, son necesarios los siguientes esfuerzos:

△Refuerzo de la educación preventiva: Es necesario ampliar los programas que informen sobre los riesgos de los delitos de deepfake y enseñen métodos de prevención. En particular, es necesario desarrollar programas educativos adaptados a las personas con discapacidad para evitar daños mayores.

△Reforzamiento de las sanciones legales: Es necesario reforzar las sanciones legales para los delitos de deepfake para aumentar la eficacia de la prevención del delito. En particular, se debe aplicar una pena mayor en los delitos cometidos contra personas con discapacidad.

△Reforzamiento del apoyo a las víctimas: Es necesario establecer un sistema que proporcione a las víctimas apoyo rápido y eficaz. Se debe reforzar el centro de apoyo a las víctimas de delitos sexuales digitales y se deben asignar asesores profesionales y expertos legales para que las víctimas puedan comprender y acceder fácilmente a los procedimientos legales.

3. Casos de daños globales a personas con y sin discapacidad y problemas
Los delitos de deepfake pueden perjudicar a todas las personas, pero las personas con discapacidad son particularmente vulnerables. Los delitos de deepfake dirigidos a personas con discapacidad representan aproximadamente el 15% del total de casos, lo que demuestra el mayor aislamiento social que experimentan las personas con discapacidad. Del mismo modo, las víctimas sin discapacidad sufren mucho a causa de los delitos de deepfake, lo que afecta no solo a su vida personal, sino también a su vida profesional.

4. Presupuesto nacional para apoyar la prevención de daños por contenido digital: situación de inversión y resultados
En 2023, el gobierno de Corea asignó aproximadamente 50.000 millones de wones para la prevención de delitos de deepfake. Este presupuesto se utilizó en diversas áreas, como programas de educación preventiva, el refuerzo de las sanciones legales, el refuerzo de los sistemas de apoyo a las víctimas y la investigación y el desarrollo de medidas de respuesta tecnológica. Como resultado, la educación preventiva permitió a muchas personas conocer los riesgos de los delitos de deepfake, y el refuerzo de las sanciones legales y el desarrollo de la infraestructura permitieron establecer un sistema para la detección y sanción rápidas de los delitos de deepfake.

5. Casos reales de daños por deepfake y orientación de las políticas nacionales para la protección de los grupos vulnerables
Los delitos de deepfake causan graves daños, especialmente a los grupos vulnerables de la sociedad. Por lo tanto, el gobierno está estableciendo las siguientes orientaciones políticas:

△Refuerzo de la educación preventiva: Se ampliarán los programas que enseñen sobre los riesgos y los métodos de prevención de los delitos de deepfake, y se impartirá una educación personalizada, especialmente a los jóvenes y a las personas con discapacidad.

△Reforzamiento de las sanciones legales: Se reforzarán las sanciones legales para los delitos de deepfake para aumentar la eficacia de la prevención del delito. Se aplicará una pena mayor en los delitos cometidos contra personas con discapacidad.

△Reforzamiento del sistema de apoyo a las víctimas: Para que las víctimas puedan recibir apoyo rápidamente, se ampliarán los centros de apoyo a las víctimas y se asignarán asesores profesionales y expertos legales.

△Investigación y desarrollo de medidas de respuesta tecnológica: Se debe seguir apoyando la investigación para el desarrollo de tecnologías de detección y bloqueo de deepfake.

Actualmente, la información precisa y sistemática obtenida del análisis de big data sobre el número de incidentes de deepfake dirigidos a personas con discapacidad y su influencia es escasa. Las razones son las siguientes.

Dificultad para recopilar datos: Como los deepfakes se crean y distribuyen de forma encubierta, es difícil determinar el número exacto de casos. En particular, en el caso de las víctimas con discapacidad, es probable que se abstengan de denunciar los incidentes o que, incluso si lo hacen, el caso se reduzca o se oculte.

Ambigüedad de la definición: La definición de deepfake no es clara y, dado el rápido desarrollo de la tecnología, constantemente aparecen nuevos tipos de deepfakes. Esto dificulta la definición del ámbito del análisis de datos y la determinación precisa del alcance de los daños.
△Falta de personal especializado: La falta de personal especializado y presupuesto para el análisis de la tecnología deepfake impide la realización de investigaciones sistemáticas.

Influencia potencial
Aunque la información estadística precisa es escasa, los incidentes de deepfake dirigidos a personas con discapacidad pueden tener las siguientes graves consecuencias:

Dolor emocional grave: La difusión de videos deepfake causa una vergüenza extrema y un dolor emocional intenso en las víctimas, lo que puede llevar a la adopción de medidas extremas, como el suicidio.
△Aislamiento social: Los daños causados por el deepfake pueden dañar la confianza personal y destruir las relaciones sociales, lo que puede llevar al aislamiento de la víctima.

△Propagación de delitos sexuales digitales: La tecnología deepfake está agravando los delitos sexuales digitales, y las personas con discapacidad pueden sufrir daños aún mayores debido a sus características físicas o su condición de grupo vulnerable.

△Aumento de los prejuicios sociales hacia las personas con discapacidad: Los videos deepfake pueden reforzar las percepciones negativas sobre las personas con discapacidad y aumentar la discriminación social.

Orientación para el futuro

Para reconocer la gravedad de los incidentes de deepfake que afectan a las personas con discapacidad y establecer medidas de respuesta sistemáticas, son necesarios los siguientes esfuerzos:

△Establecimiento de un sistema de recopilación y análisis de datos: El gobierno, el mundo académico y las organizaciones ciudadanas deben colaborar para establecer un sistema de recopilación y análisis sistemático de datos relacionados con deepfake.
△Desarrollo de personal especializado: Se debe formar personal especializado relacionado con el análisis de la tecnología deepfake y crear un entorno en el que puedan trabajar.
△Mejoras legales e institucionales: Es necesario fortalecer las leyes relacionadas con deepfake y establecer un sistema de apoyo a las víctimas.
△Campañas de concienciación: Se deben realizar campañas para concienciar sobre la gravedad del deepfake y aumentar el apoyo social a las víctimas.
△Desarrollo tecnológico: Se debe apoyar el desarrollo de tecnologías de detección y eliminación de videos deepfake y promover la comercialización de las tecnologías relacionadas.