Big techs vão criar "botão da destruição" para pausar IA

Em um esforço inédito para garantir o uso responsável da IA (Inteligência Artificial), 16 empresas de tecnologia firmaram um compromisso formal de colaboração. O acordo, denominado "Acordo de Tecnologia para Combater o Uso Enganoso de IA nas Eleições de 2024", tem como objetivo principal combater o uso criminoso ou mal-intencionado dessa tecnologia.

📱 Em um cenário hipotético em que uma empresa perde o controle sobre o uso de um modelo de linguagem, a implementação de um "botão de destruição" se torna crucial. Essa ferramenta permitiria a suspensão imediata do desenvolvimento ou fornecimento da tecnologia até que os riscos sejam devidamente avaliados e mitigados.

Leia também: União Europeia aprova Lei da Inteligência Artificial

Em fevereiro, Sam Altamn, CEO da OpenIA, disse temer os rumos que a IA pode tomar. Durante a Cúpula Mundial de Governos em Dubai, nos Emirados Árabes, ele afirmou que há “desalinhamentos sociais muito sutis”. 

🗣️ “Há algumas coisas ali que são fáceis de imaginar e que realmente podem dar errado. E não estou muito interessado nos robôs assassinos que andam pelas ruas e que podem dar errado”, afirmou. “Estou muito mais interessado nos desalinhamentos sociais muito sutis em que temos esses sistemas na sociedade e, sem nenhuma má intenção específica, as coisas dão terrivelmente errado.”

Veja a lista de empresas que assinaram o tratado: 

• Amazon;
• Anthropic;
• Cohere;
• Google (DeepMind);
• G42;
• IBM;
• Inflection AI;
• Meta;
• Microsoft;
• Mistral AI;
• Naver;
• Open AI;
• Samsung;
• Technology Innovation Institute;
• xAI;
• Zhipu.ai.