Desde o lançamento do ChatGPT e o subsequente início da revolução da IA, especialistas do setor e governos têm se reunido para medidas de segurança mais fortes para impedir que os sistemas de IA saiam dos trilhos. Agora, em notícias recentes, um grupo de influentes especialistas em IA e líderes do setor emitiram um alerta, enfatizando a necessidade urgente de abordar o risco existencial representado pela IA em escala global.
“Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”, diz o comunicado.
Publicado pela organização sem fins lucrativos com sede em São Francisco, o Center for AI Safety, a declaração destaca os esforços contínuos de empresas que correm para construir os sistemas de IA mais avançados sem implementar medidas de segurança adequadas, o que pode ser uma ameaça à humanidade. Como resultado, a declaração recebeu amplo apoio e assinaturas de figuras proeminentes, incluindo Demis Hassabis, CEO do Google DeepMind, Sam Altman, CEO da OpenAI e pesquisadores de inteligência artificial, como Geoffrey Hinton e Yoshua Bengio, que receberam o prestigiado Turing Prêmio em 2018 por suas contribuições inovadoras para o campo.
Além disso, o diretor executivo do Center for AI Safety, Dan Hendrycks, explicou em relatório que a declaração visa evitar possíveis divergências e diluições, sugerindo intervenções específicas para mitigar os riscos.
Entendendo a ameaça
Embora os sistemas de IA atuais possam não representar ameaças significativas para a humanidade, o debate sobre a segurança da IA gira principalmente em torno de cenários hipotéticos nos quais os sistemas de IA ultrapassam rapidamente os níveis seguros de operação e começam a evoluir de forma autônoma. Os especialistas acreditam que, uma vez que esses sistemas de IA atinjam um certo nível de sofisticação, o controle de suas operações se tornará quase impossível. Portanto, é crucial que empresas como Google e OpenAI, que lideram a revolução da IA, reconheçam a ameaça.
Consequentemente, até o governo também está explorando maneiras de controlar e regular o desenvolvimento da IA. E embora o presidente Joe Biden reconheça o imenso potencial da IA na solução de desafios globais como doenças e mudanças climáticas, ele também enfatizou a necessidade de abordar os riscos potenciais que ela representa para a sociedade, a economia e a segurança nacional.