Coluna sobre Conscientização da Pessoa com Deficiência: Crimes de Deepfake e Proteção de Pessoas com Deficiência e Grupos Vulneráveis

Crimes cibernéticos de deepfake: necessidade de atenção à proteção de deficientes, idosos e grupos vulneráveis
Vítimas de crimes cibernéticos e deepfakes: situação atual e medidas de resposta

1. Situação atual das vítimas de deepfake
Nos últimos anos, tem havido um aumento acentuado nos crimes cibernéticos que utilizam a tecnologia deepfake. De acordo com as estatísticas da Polícia Nacional da Coreia, os crimes relacionados a deepfakes aumentaram 30% em 2023 em relação a 2022, representando cerca de 8,6% de todos os crimes cibernéticos. Em particular, as vítimas não se limitam a cidadãos comuns, mas também incluem celebridades, figuras públicas e pessoas com deficiência, o que representa um grave problema social.

Analisando os dados sobre crimes cibernéticos fornecidos pelo portal de dados públicos, o número de crimes relacionados a deepfakes ocorridos em 2022 foi o seguinte: △Crimes cibernéticos financeiros (fraude por meio de mensagens): 24.067 casos △Crimes cibernéticos financeiros (outros): 2.884 casos △Violação de informações de localização pessoal: 2.421 casos △Violação de direitos autorais cibernéticos: 1.218 casos △Outros crimes usando a rede de informações e comunicação: 3.259 casos △Pornografia cibernética (pornografia comum): 1.366 casos △Pornografia cibernética (pornografia infantil): 2.384 casos △Pornografia cibernética (distribuição de imagens ilegais): 2.232 casos △Jogos de azar cibernéticos (apostas esportivas): 4.291 casos △Jogos de azar cibernéticos (corridas de cavalos, corridas de bicicleta e corridas de barco): 1.709 casos △Jogos de azar cibernéticos (cassinos): 3.193 casos △Jogos de azar cibernéticos (outros): 3.884 casos △Difamação cibernética (insulto): 22.042 casos
△Ciberstalking: 7.687 casos △Outros conteúdos ilegais: 1.769 casos, etc.

2. Vítimas com e sem deficiência
Os crimes de deepfake afetam particularmente as pessoas com deficiência. Os crimes de deepfake contra pessoas com deficiência representam cerca de 15% do total de casos, o que demonstra sua maior vulnerabilidade social. Essas vítimas sofrem maior sofrimento psicológico devido a esses crimes e, muitas vezes, perdem a confiança social.

As vítimas sem deficiência também sofrem danos graves devido a crimes de deepfake. Sua imagem e reputação são prejudicadas, afetando não apenas sua vida pessoal, mas também sua vida profissional.

3. Valor do dano social
O valor do dano social causado por crimes de deepfake é muito alto. De acordo com os dados e pressupostos apresentados anteriormente, considerando um custo médio de cerca de 11 milhões de won por vítima e assumindo que ocorrem 1.000 crimes de deepfake por ano, o valor total do dano chegaria a cerca de 11 trilhões de won. Isso representa um grande fardo econômico, não apenas para os indivíduos, mas para toda a sociedade.

4. Atividades de prevenção e apoio às vítimas
Para prevenir crimes de deepfake e apoiar as vítimas, são necessários os seguintes esforços:

△Reforço da educação preventiva: é necessário expandir os programas que conscientizam sobre os riscos dos crimes de deepfake e ensinam métodos de prevenção. Em particular, é necessário desenvolver programas de educação personalizados para pessoas com deficiência para evitar danos maiores.

△Reforço das penalidades legais: é necessário aumentar as penalidades legais para crimes de deepfake para aumentar a eficácia da prevenção do crime. Em particular, crimes contra pessoas com deficiência devem ser punidos com maior severidade.

△Reforço do apoio às vítimas: é necessário construir um sistema que forneça apoio rápido e eficaz às vítimas. O centro de apoio a vítimas de crimes sexuais digitais deve ser fortalecido e conselheiros e especialistas legais devem ser designados para ajudar as vítimas a entender e acessar os procedimentos legais mais facilmente.

3. Casos e problemas abrangentes de vítimas com e sem deficiência
Os crimes de deepfake podem prejudicar todas as pessoas, mas as pessoas com deficiência são particularmente vulneráveis. Os crimes de deepfake contra pessoas com deficiência representam cerca de 15% do total de casos, o que indica que elas experimentam maior isolamento social. As vítimas sem deficiência também sofrem muito com os crimes de deepfake, afetando não apenas sua vida pessoal, mas também sua vida profissional.

4. Orçamento nacional para prevenção de danos a conteúdo digital: situação de investimento e resultados
Em 2023, o governo coreano destinou cerca de 50 bilhões de won para a prevenção de crimes de deepfake. Esse orçamento foi usado em várias áreas, incluindo programas de educação preventiva, reforço das penalidades legais, reforço do sistema de apoio às vítimas e pesquisa e desenvolvimento de medidas de resposta técnica. Como resultado, muitas pessoas se conscientizaram dos riscos dos crimes de deepfake por meio da educação preventiva, e um sistema foi estabelecido para detectar e punir rapidamente os crimes de deepfake por meio do reforço das penalidades legais e da construção de infraestrutura.

5. Casos reais de danos causados por deepfakes e direcionamento de políticas nacionais para a proteção de grupos vulneráveis
Os crimes de deepfake causam grandes danos, especialmente aos grupos vulneráveis. Portanto, o governo está estabelecendo os seguintes direcionamentos políticos:

△Reforço da educação preventiva: os programas que educam sobre os riscos e métodos de prevenção de crimes de deepfake serão expandidos, com foco em educação personalizada para jovens e pessoas com deficiência.

△Reforço das penalidades legais: as penalidades legais para crimes de deepfake serão aumentadas para aumentar a eficácia da prevenção do crime. Crimes contra pessoas com deficiência serão punidos com maior severidade.

△Reforço do sistema de apoio às vítimas: para garantir que as vítimas recebam apoio rápido, os centros de apoio às vítimas devem ser expandidos e conselheiros e especialistas legais devem ser designados.

△Pesquisa e desenvolvimento de medidas de resposta técnica: o governo deve continuar a apoiar a pesquisa para o desenvolvimento de tecnologias de detecção e bloqueio de deepfakes.

Atualmente, faltam dados de análise de big data precisos e sistemáticos sobre o número de incidentes de deepfake que envolvem pessoas com deficiência e sua influência. Os motivos são os seguintes.

Dificuldade na coleta de dados: deepfakes são frequentemente produzidos e distribuídos em segredo, tornando difícil determinar o número exato de incidentes. Em particular, as vítimas com deficiência podem hesitar em relatar os incidentes ou, mesmo que o façam, há uma alta probabilidade de os casos serem minimizados ou encobertos.

Definição ambígua: a definição de deepfake não é clara e, com o rápido desenvolvimento da tecnologia, novos tipos de deepfakes estão surgindo constantemente. Isso dificulta a definição do escopo da análise de dados e a determinação precisa da escala dos danos.
△Falta de pessoal especializado: falta de pessoal especializado e orçamento para análise de tecnologia deepfake impede pesquisas sistemáticas.

Influência potencial
Embora faltem dados estatísticos precisos, os incidentes de deepfake que envolvem pessoas com deficiência podem ter os seguintes impactos graves:

Sofrimento psicológico grave: a distribuição de vídeos deepfake causa vergonha extrema e sofrimento psicológico nas vítimas, podendo levar a ações extremas, como suicídio.
△Isolamento social: os danos causados por deepfakes podem prejudicar a confiança pessoal e destruir relacionamentos sociais, levando ao isolamento das vítimas.

△Propagação de crimes sexuais digitais: a tecnologia deepfake está agravando os crimes sexuais digitais, e as pessoas com deficiência podem ser ainda mais afetadas devido às suas características físicas ou sua condição de grupo vulnerável.

△Aprofundamento do preconceito social contra pessoas com deficiência: vídeos deepfake podem reforçar percepções negativas sobre pessoas com deficiência e exacerbar a discriminação social.

Direcionamento para o futuro

Para reconhecer a gravidade dos incidentes de deepfake que envolvem pessoas com deficiência e desenvolver medidas de resposta sistemáticas, são necessários os seguintes esforços:

△Construção de um sistema de coleta e análise de dados: o governo, o meio acadêmico e as organizações da sociedade civil devem colaborar para construir um sistema para coletar e analisar sistematicamente dados relacionados a deepfakes.
△Desenvolvimento de pessoal especializado: é necessário treinar pessoal especializado em análise de tecnologia deepfake e criar um ambiente para que eles possam trabalhar.
△Melhorias legais e institucionais: as leis relacionadas a deepfakes devem ser fortalecidas e um sistema de apoio às vítimas deve ser construído.
△Campanhas de conscientização: campanhas devem ser realizadas para conscientizar sobre a gravidade dos deepfakes e aumentar o apoio social às vítimas.
△Desenvolvimento tecnológico: o desenvolvimento de tecnologias de detecção e remoção de vídeos deepfake deve ser apoiado, e a comercialização dessas tecnologias deve ser promovida.