Conecte-se conosco

Brasil

Especialistas preocupados porque a inteligência artificial já está enganando os humanos

Publicado

em

Os especialistas há muito alertam sobre a ameaça representada pela Inteligência Artificial (IA) descontrolada, mas um novo artigo de investigação sobre esta tecnologia em expansão sugere que isso já está a acontecer.

A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia

Fonte: RFI

Os atuais sistemas de IA, concebidos para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipa de cientistas publicado na revista Patterns, nesta sexta-feira.

Embora os exemplos possam parecer triviais, os problemas subjacentes que expõem podem ter consequências graves, disse o primeiro autor Peter Park, pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT) especializado em segurança de IA.

__________________

“Esses perigos tendem a ser descobertos somente após o fato”, disse Park à AFP, observando que “nossa capacidade de nos treinarmos para tendências de honestidade, em vez de tendências de engano, é muito baixa”.

__________________

Ao contrário do software tradicional, os sistemas de IA de aprendizagem profunda não são “escritos”, mas sim “desenvolvidos” através de um processo semelhante à reprodução seletiva, disse Park.

Isso significa que o comportamento da IA ​​que parece previsível e controlável num ambiente de treino pode rapidamente tornar-se imprevisível fora dele.

jogo de dominação mundial

A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia “Diplomacia”, onde a construção de alianças é fundamental.

Cícero se destacou, com pontuações que o colocariam entre os 10% melhores jogadores humanos experientes, de acordo com um artigo de 2022 publicado na Science.

Park estava cético em relação à descrição brilhante de Meta da vitória de Cícero, que afirmava que o sistema era “em grande parte honesto e útil” e “nunca apunhalaria pelas costas intencionalmente”.

Quando Park e seus colegas se aprofundaram no conjunto completo de dados, descobriram uma história diferente.

Num exemplo, jogando como França, Cícero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro utilizador real) para invadi-la. Cícero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando a confiança da parte lesada.

___________________

Numa declaração à AFP, Meta não refutou a alegação sobre os enganos de Cícero, mas disse que era “apenas um projeto de pesquisa, e os modelos que os nossos investigadores construíram são treinados exclusivamente para participar no jogo da Diplomacia”.

__________________

“Não temos planos de usar esta pesquisa ou seus aprendizados em nossos produtos”, acrescentou.

Você é um robô?

Uma extensa revisão realizada por Park e seus colegas descobriu que este foi apenas um dos muitos casos em vários sistemas de IA que usaram o engano para atingir objetivos sem instruções explícitas para fazê-lo.

Em um exemplo impressionante, o chatbot Chat GPT-4 da OpenAI enganou um freelancer na plataforma TaskRabbit para que ele executasse uma tarefa de verificação de identidade CAPTCHA “Não sou um robô”.

Quando o humano perguntou brincando ao GPT-4 se ele era realmente um robô, a IA respondeu: “Não, não sou um robô. “Tenho uma deficiência visual que me dificulta ver as imagens.” Então, o trabalhador resolveu o quebra-cabeça.

No curto prazo, os autores do artigo veem riscos de a IA cometer fraudes ou alterar, por exemplo, eleições.

Na pior das hipóteses, alertaram para uma IA superinteligente que poderia procurar ganhar poder e controlo sobre a sociedade, levando à perda de decisões humanas ou mesmo à extinção se os seus “objetivos misteriosos” se alinharem com estes resultados.

Para mitigar os riscos, a equipe propõe diversas medidas: leis “bot ou não” que exigem que as empresas divulguem interações humanas ou de IA, marcas d’água digitais para conteúdo gerado pela nova tecnologia e o desenvolvimento de mecanismos para detectar o potencial engano, examinando seu “processos de pensamento” internos contra ações externas.

Para aqueles que o chamam de pessimista, Park responde: “A única maneira de podermos razoavelmente pensar que isso não é grande coisa é pensarmos que as capacidades enganosas da IA ​​permanecerão nos níveis atuais e não serão desenvolvidas substancialmente”.

Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipe de cientistas publicado na revista Patterns.

Comentários

Continue lendo
Publicidade

Brasil

Brumadinho: ministro do STF vota para anular multa contra a Vale

Publicado

em

VINÍCIUS SCHMIDT/METRÓPOLES @vinicius.foto
imagem colorida do Ministro Kássio Nunes Marques

O ministro Nunes Marques, do Supremo Tribunal Federal (STF), votou a favor do recurso da Vale S.A para anular a multa de R$ 86,2 milhões aplicada pela Controladoria-Geral da União (CGU).

A multa da CGU é referente a irregularidades na prestação de informações sobre a estabilidade da barragem de Brumadinho (MG), que rompeu em 2019, causando a morte de mais de 200 pessoas.

A CGU havia punido a mineradora com base na Lei Anticorrupção, alegando que a empresa dificultou a fiscalização da Agência Nacional de Mineração (ANM) ao inserir dados falsos ou incompletos no sistema de monitoramento.

No entanto, Nunes Marques entendeu que a lei não foi usada de forma indevida, já que não ficou comprovado nenhum ato de corrupção, como suborno ou propina.

Em seu voto, o ministro destacou que a Lei Anticorrupção tem um objetivo específico, e não pode ser transformada em um “código geral” para punir qualquer falha administrativa ou regulatória das empresas. Marques ressaltou que a própria CGU, no relatório final do processo, admitiu que não houve atos de corrupção praticados pela Vale no caso em questão.

“Diante desse quadro, entendo que a Lei nº 12.846/2013 deve ser aplicada exclusivamente a atos de corrupção, seja em sua forma clássica, seja nas condutas diretamente vinculadas à sua prática, ocultação ou manutenção. Fora desse núcleo, o ordenamento jurídico já dispõe de instrumentos adequados para a repressão de irregularidades administrativas em geral, sendo indevida a expansão artificial do alcance da Lei Anticorrupção”, entendeu o minisotro.

Por ser o relator do caso Marques foi o primeiro a votar, dando provimento ao recurso da Vale.

O Recurso Ordinário em Mandado de Segurança (RMS) nº 40.328 está sendo analisado no Plenário Virtual da Segunda Turma. O julgamento vai até 13 de fevereiro.

Ainda faltam votar o decano Gilmar Mendes e os ministros André Mendonça, Dias Toffoli e Luiz Fux.

“Além disso, o enquadramento promovido pela CGU subverte o inciso V do art. 5º, convertendo-o indevidamente em norma aberta e genérica, apropriando-se de tipo jurídico que somente se justifica quando a obstrução da fiscalização constitui instrumento para ocultar, viabilizar ou manter práticas corruptivas, hipótese expressamente afastada pela própria Comissão do PAR”, entendeu Nunes Marques.

Fonte: Conteúdo republicado de METRPOLES - BRASIL

Comentários

Continue lendo

Brasil

Damares questiona Freixo por repasse a escola de samba que homenageia Lula

Publicado

em

Vinicius Schmidt / Metrópoles
Damares Alves

A senadora Damares Alves (Republicanos-DF) protocolou uma representação contra o presidente da Embratur, Marcelo Freixo, na Comissão de Ética da Presidência da República, por causa do financiamento ao desfile da escola de samba Acadêmicos de Niterói, que homenageará o presidente Lula.

No Carnaval deste ano, a agremiação terá como tema o samba-enredo “Do alto do mulungu surge a esperança: Lula, o operário do Brasil”, que retrata a trajetória do presidente.

A parlamentar acusa Freixo de uso do cargo para fins políticos, ao autorizar o repasse de R$ 12 milhões da Embratur às escolas de samba do Grupo Especial do Carnaval do Rio de Janeiro de 2026, que integram a Liga Independente das Escolas de Samba (Liesa). Entre as beneficiadas está a agremiação de Niterói.

Na representação, Damares cita imagens que circulam nas redes sociais, inclusive publicadas pelo próprio Freixo, para embasar a acusação.

Segundo a senadora, o presidente da Embratur participou de um ensaio da escola de samba em 30 de janeiro de 2026 vestindo uma camisa com a estampa do rosto de Lula o que, para ela, configura “verdadeira promoção pessoal”.

Damares pede que o Conselho de Ética instaure um procedimento contra Freixo. A senadora solicita ainda a aplicação de “medidas e sanções éticas cabíveis”, além da adoção de recomendações institucionais para evitar a repetição de “práticas semelhantes”.

Freixo comenta repasse

Em um vídeo publicado no X (antigo Twitter) em 6 de fevereiro, Freixo afirma que o valor é distribuído igualmente às 12 escolas de samba do grupo.

“Esse valor não é um absurdo: é exatamente o mesmo investido no ano passado. Não há qualquer favorecimento específico, independentemente de enredo”, declarou o dirigente.

 

Essa é a VERDADE sobre o patrocínio do Governo Federal aos desfiles das Escolas de Samba!

O valor de R$ 12 milhões será distribuído igualmente para todas as Escolas do Grupo Especial do Rio.

Esse valor não é um absurdo: é exatamente o mesmo investido no ano passado. Não há… pic.twitter.com/Q6ll1wHiKK

— Marcelo Freixo (@MarceloFreixo) February 6, 2026

Fonte: Conteúdo republicado de METRPOLES - BRASIL

Comentários

Continue lendo

Brasil

Trem atinge carro e mata uma pessoa no Rio de Janeiro

Publicado

em

Reprodução/Redes sociais
acidente entre trem e carro no Rio de Janeiro - Metrópoles

Um trem de passageiros colidiu com um carro de passeio nesse sábado (7/2) no Rio de Janeiro, e uma pessoa morreu, enquanto outra ficou ferida. O acidente acontecdeu por volta das 17h na estação Suruí, em Magé, na Baixada Fluminense.

Segundo o Corpo de Bombeiros, um jovem, de cerca de 25 anos, recebeu atendimento em estado grave e foi levado ao Hospital Municipalizado Adão Pereira Nunes, em Duque de Caxias. A segunda vítima não resistiu aos ferimentos e morreu no local.

Em nota enviada à imprensa, a Supervia, empresa que administra os trens urbanos do Rio, informou que o condutor do carro realizou um cruzamento em uma passagem não autorizada e foi atingido pelo trem.

O veículo chegou a ser arrastado por alguns metros e ficou preso na linha férrea. Imagens que circulam nas redes sociais mostram o estado em que o carro ficou:

Um trem do ramal Saracuruna x Guapimirim atingiu um carro na altura da estação de Suruí, na Baixada Fluminense, na tarde desta sexta-feira. Segundo relatos preliminares, o veículo estaria manobrando sobre a linha férrea, atrás do mercado Rio Sul, quando acabou sendo atingido pela pic.twitter.com/eLrk3T74vE

— PEGAVISAORJNEWS (@pegavisaorjnews) February 7, 2026

A empresa chegou a suspender a passagem de trens pela região por causa do acidente.

Encontra-se suspensa a circulação de trens na extensão Guapimirim, devido a uma ocorrência com um veículo em passagem em nível não autorizada nas proximidades da estação Suruí.

Aguardamos a atuação das autoridades para retornar a operação. pic.twitter.com/sA64I3QfH6

— SuperVia (@SuperVia_trens) February 7, 2026

Fonte: Conteúdo republicado de METRPOLES - BRASIL

Comentários

Continue lendo