[Insights de IA] "O padrinho da IA avisa... A encruzilhada da superinteligência que chegará em 10 anos"

"Eu pesquiso IA há 50 anos. Este é o primeiro momento em que sinto medo."

Escrito por | Choi Bong-hyeok, colunista | The ESG News

Esta declaração do Dr. Geoffrey Hinton, vencedor do Prêmio Turing (o Prêmio Nobel em ciência da computação) em 2018, não é apenas uma reclamação de um cientista. É um aviso assustador que indica que a humanidade está em uma nova encruzilhada de civilização que nunca experimentamos antes. Ele enfatiza que o futuro que nos aguarda não é uma história de ficção científica, comparando sua situação atual com a de Oppenheimer, que alertou a humanidade sobre a possibilidade de uma guerra nuclear após o desenvolvimento da bomba atômica.

Como colunista Choi Bong-hyeok, estou convencido de que a discussão sobre o desenvolvimento da tecnologia de IA e as responsabilidades éticas e sociais que o acompanham são um processo essencial que corresponde ao interesse público de nossa sociedade. Ao entender profundamente o aviso do Dr. Hinton e analisar cuidadosamente sua consciência de problemas e soluções, obteremos insights que nos permitirão liderar a próxima era da IA ​​em uma direção benéfica para a humanidade.

Capítulo 1. Aviso de '10 a 20% de probabilidade'_ O futuro da humanidade, onde o relógio foi adiantado

Em uma entrevista à BBC em maio de 2024, o Dr. Geoffrey Hinton testemunhou vividamente como sua percepção da IA ​​mudou drasticamente em apenas dois anos. "Até 2022, eu pensava que o risco de controle descontrolado da IA ​​estaria a 50 anos de distância. Mas agora que o GPT-4 apareceu, acho que há uma chance de 10 a 20% de que a superinteligência saia do controle humano em 10 anos."

Embora o número de 10 a 20% possa parecer pequeno estatisticamente, seu significado não é leve. Em um problema que afeta a existência da humanidade, 10 a 20% significa uma 'ameaça que pode ser concretizada', não apenas uma 'possibilidade'. É como se investíssemos tudo em segurança, mesmo que a probabilidade de um acidente de avião seja inferior a 0,0001%. O Dr. Hinton explica que a velocidade do desenvolvimento da tecnologia de IA é surpreendente, como a velocidade de atualização de um smartphone. No passado, grandes transformações tecnológicas ocorriam uma vez a cada 10 anos, mas agora entramos em uma era de velocidade da luz, com mais de duas inovações por ano.

O 'ponto de inflexão' que ele menciona se refere à capacidade da IA ​​de aprender e evoluir por conta própria. É como o momento em que um bebê começa a dar os primeiros passos. Assim como um bebê que começa a andar não para e aprende a correr por conta própria, a IA tem o potencial de sofisticar sua inteligência sem intervenção humana direta. O problema é que, se esse auto-desenvolvimento sair do controle humano, os resultados são imprevisíveis. Os perigos potenciais que podem surgir se a superinteligência autônoma da IA ​​definir metas que entram em conflito com os interesses da humanidade, ou se ela entender mal as intenções humanas, são maiores do que se pode imaginar.

Capítulo 2. "Revelar os pesos da IA ​​é como vazar os projetos de armas nucleares"

Um dos pontos que o Dr. Hinton adverte com mais força é a questão da 'divulgação dos pesos (Weight) dos modelos de IA'. Ele chegou a descrever a divulgação de código aberto dos pesos de grandes modelos de IA como "uma loucura, como postar o projeto de uma arma nuclear na Internet". Essa analogia mostra que ele vê o poder destrutivo da tecnologia de IA ​​com tanta seriedade quanto as armas nucleares.

Sua preocupação já se manifestou como um perigo que se tornou realidade, indo além de uma simples analogia.

Agosto de 2023, o incidente de vazamento de pesos LLaMA: o vazamento dos pesos do Large Language Model (LLM) LLaMA, lançado pelo Facebook (agora Meta), e sua venda por 50.000 dólares (aproximadamente 70 milhões de won) na dark web, revelaram a vulnerabilidade da segurança da IA. Os pesos vazados se tornaram um estado incontrolável que pode ser manipulado por ferramentas de hacking ou usado para o desenvolvimento de IA maliciosa.

Março de 2024, casos de manipulação de IA de código aberto: Na verdade, casos de manipulação de modelos de IA de código aberto para gerar 'projetos de armas nucleares simuladas' foram relatados. O mais chocante foi que a análise mostrou que a possibilidade de implementação física desses projetos chegou a 92%. Isso sugere que não se trata de uma ameaça teórica, mas que pode levar à destruição real.

O Dr. Hinton comparou os pesos da IA ​​a uma "receita secreta". Ele adverte que, se a receita do KFC for revelada, lojas de frango falsas aparecerão em massa, assim como a **'IA maliciosa'** surgirá indiscriminadamente se os pesos da IA ​​forem revelados. Sua previsão de que chegará uma época em que terroristas poderão criar IAs de controle de armas letais com apenas um milhão de dólares não está mais distante. Acreditamos que os riscos de seu uso indevido são tão ilimitados quanto as ilimitadas possibilidades da IA. A IA maliciosa pode ameaçar a vida humana em todas as áreas imagináveis, como roubo de informações pessoais, perturbação dos sistemas financeiros e desenvolvimento de armas letais autônomas.

Capítulo 3. O milagre que a superinteligência trará: a revolução da medicina e da educação

Assim como ele alertou sobre os perigos, o Dr. Hinton também enfatizou o 'milagre' que a IA ​​trará para a humanidade. Ele disse: "Ao mesmo tempo, essa tecnologia é a maior oportunidade da história da humanidade", e enfatiza o impacto positivo que a IA ​​trará se for desenvolvida e controlada na direção correta.

Revolução médica: A IA ​​já está alcançando resultados surpreendentes na área médica. O Dr. Hinton previu que os médicos de IA ​​poderiam aumentar a precisão do diagnóstico de câncer de pulmão em mais de 40%. Na verdade, a Mayo Clinic dos EUA conseguiu aumentar a taxa de detecção de câncer de mama em mais de 30 vezes usando IA. Ao analisar grandes quantidades de dados médicos, a IA ​​pode detectar padrões sutis ou sinais anormais que os médicos humanos podem perder no início, reduzindo a taxa de erro de diagnóstico e melhorando significativamente a precisão do diagnóstico. Isso terá um grande impacto em salvar muitas vidas e reduzir os custos de saúde.

Revolução educacional: A IA ​​também pode contribuir para reduzir as disparidades na área da educação. O Dr. Hinton estimou que tutores de IA individuais podem resolver até 90% das diferenças de desempenho acadêmico entre os alunos. O caso da Universidade Nacional de Seul, na Coreia, apoia isso. A Universidade Nacional de Seul obteve resultados surpreendentes, com a média das notas dos alunos aumentando em 31% após a introdução de um sistema de tutoria de IA. Os tutores de IA fornecem educação personalizada adaptada ao nível de aprendizado e velocidade de cada aluno, auxiliando na compensação de fraquezas e na maximização de pontos fortes. Isso pode melhorar a qualidade da educação, reduzir o fardo da educação privada e, em última análise, contribuir para a igualdade na educação.

Revolução ambiental e energética: A IA ​​também desempenha um papel importante na solução de problemas ambientais. Diz-se que os supercondutores projetados por IA podem aumentar a eficiência das baterias de veículos elétricos em mais de 200%. Isso significa que pode desempenhar um papel essencial na maximização da eficiência energética e na redução das emissões de carbono para lidar com as mudanças climáticas.

A mensagem do Dr. Hinton é clara. "Assim como as armas nucleares são usadas em reatores para gerar eletricidade, a IA também se tornará a salvação da humanidade se for controlada." A IA é uma faca de dois gumes, e dependendo de como é usada e controlada, pode ser uma calamidade para a humanidade ou trazer prosperidade sem precedentes. O importante não é a tecnologia em si, mas a vontade e a responsabilidade dos humanos que a utilizam.

https://www.esgre100.com/news/articleView.html?idxno=3366