Brasil
Especialistas preocupados porque a inteligência artificial já está enganando os humanos
Os especialistas há muito alertam sobre a ameaça representada pela Inteligência Artificial (IA) descontrolada, mas um novo artigo de investigação sobre esta tecnologia em expansão sugere que isso já está a acontecer.
A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia
Fonte: RFI
Os atuais sistemas de IA, concebidos para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipa de cientistas publicado na revista Patterns, nesta sexta-feira.
Embora os exemplos possam parecer triviais, os problemas subjacentes que expõem podem ter consequências graves, disse o primeiro autor Peter Park, pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT) especializado em segurança de IA.
__________________
“Esses perigos tendem a ser descobertos somente após o fato”, disse Park à AFP, observando que “nossa capacidade de nos treinarmos para tendências de honestidade, em vez de tendências de engano, é muito baixa”.
__________________
Ao contrário do software tradicional, os sistemas de IA de aprendizagem profunda não são “escritos”, mas sim “desenvolvidos” através de um processo semelhante à reprodução seletiva, disse Park.
Isso significa que o comportamento da IA que parece previsível e controlável num ambiente de treino pode rapidamente tornar-se imprevisível fora dele.
jogo de dominação mundial
A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia “Diplomacia”, onde a construção de alianças é fundamental.
Cícero se destacou, com pontuações que o colocariam entre os 10% melhores jogadores humanos experientes, de acordo com um artigo de 2022 publicado na Science.
Park estava cético em relação à descrição brilhante de Meta da vitória de Cícero, que afirmava que o sistema era “em grande parte honesto e útil” e “nunca apunhalaria pelas costas intencionalmente”.
Quando Park e seus colegas se aprofundaram no conjunto completo de dados, descobriram uma história diferente.
Num exemplo, jogando como França, Cícero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro utilizador real) para invadi-la. Cícero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando a confiança da parte lesada.
___________________
Numa declaração à AFP, Meta não refutou a alegação sobre os enganos de Cícero, mas disse que era “apenas um projeto de pesquisa, e os modelos que os nossos investigadores construíram são treinados exclusivamente para participar no jogo da Diplomacia”.
__________________
“Não temos planos de usar esta pesquisa ou seus aprendizados em nossos produtos”, acrescentou.
Você é um robô?
Uma extensa revisão realizada por Park e seus colegas descobriu que este foi apenas um dos muitos casos em vários sistemas de IA que usaram o engano para atingir objetivos sem instruções explícitas para fazê-lo.
Em um exemplo impressionante, o chatbot Chat GPT-4 da OpenAI enganou um freelancer na plataforma TaskRabbit para que ele executasse uma tarefa de verificação de identidade CAPTCHA “Não sou um robô”.
Quando o humano perguntou brincando ao GPT-4 se ele era realmente um robô, a IA respondeu: “Não, não sou um robô. “Tenho uma deficiência visual que me dificulta ver as imagens.” Então, o trabalhador resolveu o quebra-cabeça.
No curto prazo, os autores do artigo veem riscos de a IA cometer fraudes ou alterar, por exemplo, eleições.
Na pior das hipóteses, alertaram para uma IA superinteligente que poderia procurar ganhar poder e controlo sobre a sociedade, levando à perda de decisões humanas ou mesmo à extinção se os seus “objetivos misteriosos” se alinharem com estes resultados.
Para mitigar os riscos, a equipe propõe diversas medidas: leis “bot ou não” que exigem que as empresas divulguem interações humanas ou de IA, marcas d’água digitais para conteúdo gerado pela nova tecnologia e o desenvolvimento de mecanismos para detectar o potencial engano, examinando seu “processos de pensamento” internos contra ações externas.
Para aqueles que o chamam de pessimista, Park responde: “A única maneira de podermos razoavelmente pensar que isso não é grande coisa é pensarmos que as capacidades enganosas da IA permanecerão nos níveis atuais e não serão desenvolvidas substancialmente”.
Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipe de cientistas publicado na revista Patterns.
Comentários
Brasil
Na UTI, mulher que teve 40% do corpo queimado em explosão com álcool precisa de doação de sangue
Katiucha de Souza Barbosa, de 36 anos, é uma das oito vítimas de uma explosão com álcool que ocorreu no último dia 22 em Rio Branco. Familiares, amigos e colegas de trabalho fazem campanha para doação de qualquer tipo sanguíneo
Familiares da servidora Katiucha de Souza Barbosa, de 36 anos, estão fazendo campanha para doação de sangue. Foto: Arquivo pessoal
Por Walace Gomes, g1 AC — Rio Branco
Internada há uma semana na Unidade de Terapia Intensiva (UTI) do Pronto Socorro de Rio Branco, a servidora pública Katiucha de Souza Barbosa, de 36 anos, precisa de doações de sangue para continuar o tratamento. Ela é uma das oito vítimas de uma explosão com álcool que ocorreu no último dia 22 durante uma comemoração de um aniversário.
As doações são feitas no Centro de Hematologia e Hemoterapia do Acre (Hemoacre), em Rio Branco.
“No sábado [28] ela tomou sangue, que serviu para ajudar na oxigenação do corpo. Quando vão fazer o curativo, na parte que está mais escura, vão raspando para a pele regenerar. Quando, raspam diz que perde o sangue. Por isso é reposição”, explicou Huanderson Souza Barbosa, irmão de Katiuscha.
Ainda segundo Huanderson são aceitas doação de qualquer tipo sanguíneo. A servidora pública chegou a ficar intubada durante dois dias. “Os doadores que fizeram a doação têm direito a um corte de cabelo masculino na nossa barbearia onde a Katiucha também atende”, afirmou.
Katiucha trabalha como assistente de gabinete do Subnúcleo de Tutela da Saúde Pública da Defensoria Pública do Acre (DPE-AC) desde 2022.
Segundo Huanderson, a família está desesperada com a situação dela. “Minha mãe está desesperada e esperando em Deus que venha melhorar logo”, contou.
Sequelas
O irmão de Katiucha explicou ainda que as chamas atingiram cerca de 40% do corpo dela, entre rosto, pescoço, braço, perna e orelha.
“Ela ficou bem machucada e, devido ao soro que está tomando, criou um pouco de água no pulmão, ocasião em que pegou uma Síndrome de Angústia Respiratória Aguda (Sara), disse emocionado.
Com o diagnótico da síndrome, Katiucha teve uma piora e os médicos tentaram intuba-lá novamente na última quinta-feira (26). Contudo, ela recusou. “Mesmo debilitada, ela não autorizou que intubassem e disse para os médicos lutarem até o final, e estão lutando. Segundo ela, a máscara que ela usa para respirar estava machucando, mas chegou um aparelho novo e está melhorando”, disse.
Conforme Huanderson, a irmã já começou a dar os primeiros passos e já tem se alimentado com comida pastosa, como gelatina. “Minha irmã luta para atender as pessoas desassistidas para ajudar as pessoas desamparadas. Ela trabalha fazendo exatamente essa ajuda, e nesse momento, ela que está precisando”, finalizou.
A DPE-AC afirmou que servidores, estagiários e colaboradores terceirizados têm se mobilizado espontaneamente para contribuir com a campanha, por meio da doação de sangue e divulgação do pedido de ajuda.
Explosão
Katiucha comemorava junto com os amigos o aniversário de Raimundo Nonato Leite de 55 anos, na casa da recepcionista Vitória Leite, de 29 anos, no bairro Tropical. Quando houve a explosão, havia entre 14 e 15 pessoas na casa, entre elas crianças.
A recepcionista recebeu alta do pronto-socorro na última terça-feira (24) e se recupera em casa, contudo, os pais dela, Vicente Vieira de Oliveira e Maria Natividade Leite, ambos de 59 anos, Katiúcia que é amiga da família, e Raimundo Nonato Leite, de 55 anos, irmão de Maria Natividade, seguem na UTI do PS.
À época, o Serviço de Atendimento Móvel de Urgência (Samu) foi acionado e encaminhou três ambulâncias para o local da explosão. As oito pessoas do grupo tiveram queimaduras de 2º e 3º grau.
Comentários
Brasil
Casos de dengue caem 78% no Brasil, mas óbitos em investigação acendem alerta, diz Ministério da Saúde
País registra 92,8 mil casos prováveis e 13 mortes confirmadas em 2026; chikungunya preocupa em Goiás e Minas Gerais
Para enfrentar e conter a proliferação dos vetores, o Ministério da Saúde anunciou respostas específicas com as secretarias estaduais de Goiás, Minas Gerais, Tocantins e Pará. Foto: captada
Os casos de dengue no país registram queda de 78% e estão abaixo da média esperada pela série histórica neste início de ano. As informações foram apresentadas pela Secretaria de Vigilância em Saúde e Ambiente (SVSA) nesta quinta-feira (26/2) durante a reunião de gestores do SUS. O país registra 92.795 casos prováveis de dengue, com 13 óbitos confirmados e 116 em investigação.
O volume de óbitos ainda em análise é apontado pelo Ministério da Saúde como o aspecto mais preocupante do quadro atual, exigindo celeridade nas investigações para orientar eventuais ajustes emergenciais na rede de assistência à saúde. A incidência geral de 43,7 casos por 100 mil habitantes representa uma redução estatística em relação ao esperado, mas há uma alta concentração da doença em áreas específicas. O balanço destacou os municípios de Jataí e Caldas Novas (GO) , a microrregião de Francisco Sá (MG) e Araguaína (TO).
Chikungunya e ações integradas
Em relação à chikungunya, o país contabiliza 9.156 casos prováveis e um óbito confirmado, com maior concentração na divisa de Goiás com o Triângulo Mineiro . Nestas áreas, o índice de infecção está acima do limite superior esperado pela média histórica .
Para enfrentar e conter a proliferação dos vetores, o Ministério da Saúde anunciou respostas específicas com as secretarias estaduais de Goiás, Minas Gerais, Tocantins e Pará. O objetivo é intensificar o bloqueio de focos e viabilizar o remanejamento de profissionais treinados para as áreas mais críticas dentro desses estados.
Novas tecnologias e estratégias
Como parte das ações de enfrentamento, o governo programou a introdução de novas tecnologias de controle vetorial em 54 municípios para o final de março e antecipou a instalação de Estações Disseminadoras de Larvicidas (EDL) nas zonas de maior contágio. O planejamento também inclui armadilhas ovitrampas em aproximadamente 1,1 mil municípios, enquanto 1,8 mil cidades passaram por treinamento técnico focado na aplicação de borrifação residual de inseticidas.
Nesta segunda-feira (2/3), foi feita a soltura dos primeiros mosquitos com a bactéria Wolbachia, provenientes da biofábrica estruturada em parceria com a Fundação Oswaldo Cruz (Fiocruz) em Minas Gerais. A ação inicial ocorre no município de Brumadinho.
Atuação na saúde suplementar
O ministério ainda anunciou uma agenda de trabalho com a Agência Nacional de Saúde Suplementar (ANS) voltada para a formulação de estratégias específicas para a redução da letalidade por dengue na rede assistencial privada. A ideia é que os profissionais da saúde suplementar recebam treinamento para identificar rapidamente sinais e sintomas de risco e encaminhem os pacientes aos cuidados intensivos sempre que necessário, reduzindo a incidência de mortes evitáveis por dengue.
Comentários
Para combater a misoginia digital, o TSE proibiu postagens nas redes sociais com montagens envolvendo candidatas e fotos e vídeos com nudez e pornografia
O objetivo é evitar a interferência de algoritmos na livre escolha dos eleitores. Foto: captada
O Tribunal Superior Eleitoral (TSE) aprovou nesta segunda-feira (2) as regras sobre utilização de inteligência artificial (IA) durante as eleições gerais de outubro deste ano. As normas valem para candidatos e partidos.
Por unanimidade, o tribunal decidiu proibir postagens nas redes sociais de conteúdos modificados no período de 72 horas antes do pleito e 24 horas após a votação.
A restrição vale para modificações com imagem e voz de candidatos ou pessoas públicas. O primeiro turno está marcado para 4 de outubro.
As regras foram definidas com a aprovação de diversas resoluções que vão nortear o pleito, no qual serão escolhidos o presidente da República, governadores, senadores, deputados federais, estaduais e distritais.
Os ministros também proibiram que provedores de IA permitam, ainda que solicitado pelos usuários, sugestões de candidatos para votar. O objetivo é evitar a interferência de algoritmos na livre escolha dos eleitores.
Para combater a misoginia digital, o TSE proibiu postagens nas redes sociais com montagens envolvendo candidatas e fotos e vídeos com nudez e pornografia.
A Corte eleitoral também reafirmou que os provedores de internet poderão ser responsabilizados pela Justiça se não retirarem perfis falsos e postagens ilegais de seus usuários.
Liberdade de expressão
Para evitar episódios de censura ocorridos em eleições anteriores, os ministros decidiram permitir, no período de pré-campanha, manifestações espontâneas sobre conteúdo político em ambientes universitários, escolares e espaços de movimentos sociais.
Também foi garantido que candidatos poderão fazer panfletagem em ruas, parques e praças, desde que garantida a mobilidade da população nos espaços.
Na semana passada, o TSE aprovou mais sete resoluções sobre as eleições. Os textos tratam da divulgação de pesquisas eleitorais, transporte de eleitores, arrecadação de recursos, prestação de contas, além de alterações no cadastro de eleitores.
Você precisa fazer login para comentar.