Big Techs fazem acordo para criar “botão de pânico” para IA

Big Techs fazem acordo para criar “botão de pânico” para IA

Um acordo histórico entre big techs e governos globais está priorizando o uso responsável de Inteligência Artificial (IA). Microsoft, Amazon e OpenAI foram favoráveis quanto à criação do chamado “botão de pânico”.  A proposta do recurso é estabelecer práticas seguras de desenvolvimento de IA em níveis avançados, minimizando problemas e interrompendo ações de riscos.

Desse modo, a tecnologia, também conhecida como botão STOP, interromperia os comandos inteligentes em casos suspeitos e inadequados, quando não devidamente mitigados pelas soluções e programas generativos. Para isso, frameworks deverão ser criados pelos desenvolvedores de IA, facilitando a identificação e prevenção de desafios nesta área.

Será através desses frameworks que as “linhas vermelhas” serão configuradas, válidas para riscos de uso de IA categorizados como intoleráveis. Ciberataques automatizados e a produção de armas biológicas são alguns desses exemplos, além do uso indevido e fraudulento de dados pessoais.

Pacto inclui prestação de contas

Esse importante acordo internacional foi firmado durante a Cúpula de Segurança de IA, evento realizado em Seul, na Coréia do Sul. A criação do botão, entretanto, foi apenas uma das pautas discutidas durante a ocasião. Além do país asiático sede, o acordo foi apoiado pelos Estados Unidos, China, Reino Unido, França, Emirados Árabes e Canadá.

Em um comunicado, o Primeiro-Ministro do Reino Unido, Rishi Sunak, alegou que é a primeira vez que lideranças de diferentes partes do mundo concordam com os mesmos princípios de segurança em IA. O pacto firmado também destacou a necessidade de transparência nos processos de IA e a prestação de contas pelas empresas que faturam com o uso da tecnologia.

Acordo sem força de lei

Atualmente, o mercado de IA generativa está entre as áreas que mais crescem em todo o mundo. A previsão é que o segmento cresça aproximadamente 35% até 2025, simbolizando um valor de mercado de US$ 300 bilhões. A criação do botão “stop” não é propriamente uma novidade, já que líderes da tecnologia vinham debatendo o assunto há alguns anos.

O acordo firmado, porém, não possui caráter legislativo. As big techs se comprometeram em desenvolver o recurso de segurança de modo voluntário. Essa é uma iniciativa coletiva que dependerá de ações individuais das empresas. Portanto, as big techs não estão sujeitas a nenhum tipo de multa ou punição em caso de descumprimento do acordo.