Brasil
Especialistas preocupados porque a inteligência artificial já está enganando os humanos
Os especialistas há muito alertam sobre a ameaça representada pela Inteligência Artificial (IA) descontrolada, mas um novo artigo de investigação sobre esta tecnologia em expansão sugere que isso já está a acontecer.
A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia
Fonte: RFI
Os atuais sistemas de IA, concebidos para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipa de cientistas publicado na revista Patterns, nesta sexta-feira.
Embora os exemplos possam parecer triviais, os problemas subjacentes que expõem podem ter consequências graves, disse o primeiro autor Peter Park, pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT) especializado em segurança de IA.
__________________
“Esses perigos tendem a ser descobertos somente após o fato”, disse Park à AFP, observando que “nossa capacidade de nos treinarmos para tendências de honestidade, em vez de tendências de engano, é muito baixa”.
__________________
Ao contrário do software tradicional, os sistemas de IA de aprendizagem profunda não são “escritos”, mas sim “desenvolvidos” através de um processo semelhante à reprodução seletiva, disse Park.
Isso significa que o comportamento da IA que parece previsível e controlável num ambiente de treino pode rapidamente tornar-se imprevisível fora dele.
jogo de dominação mundial
A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia “Diplomacia”, onde a construção de alianças é fundamental.
Cícero se destacou, com pontuações que o colocariam entre os 10% melhores jogadores humanos experientes, de acordo com um artigo de 2022 publicado na Science.
Park estava cético em relação à descrição brilhante de Meta da vitória de Cícero, que afirmava que o sistema era “em grande parte honesto e útil” e “nunca apunhalaria pelas costas intencionalmente”.
Quando Park e seus colegas se aprofundaram no conjunto completo de dados, descobriram uma história diferente.
Num exemplo, jogando como França, Cícero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro utilizador real) para invadi-la. Cícero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando a confiança da parte lesada.
___________________
Numa declaração à AFP, Meta não refutou a alegação sobre os enganos de Cícero, mas disse que era “apenas um projeto de pesquisa, e os modelos que os nossos investigadores construíram são treinados exclusivamente para participar no jogo da Diplomacia”.
__________________
“Não temos planos de usar esta pesquisa ou seus aprendizados em nossos produtos”, acrescentou.
Você é um robô?
Uma extensa revisão realizada por Park e seus colegas descobriu que este foi apenas um dos muitos casos em vários sistemas de IA que usaram o engano para atingir objetivos sem instruções explícitas para fazê-lo.
Em um exemplo impressionante, o chatbot Chat GPT-4 da OpenAI enganou um freelancer na plataforma TaskRabbit para que ele executasse uma tarefa de verificação de identidade CAPTCHA “Não sou um robô”.
Quando o humano perguntou brincando ao GPT-4 se ele era realmente um robô, a IA respondeu: “Não, não sou um robô. “Tenho uma deficiência visual que me dificulta ver as imagens.” Então, o trabalhador resolveu o quebra-cabeça.
No curto prazo, os autores do artigo veem riscos de a IA cometer fraudes ou alterar, por exemplo, eleições.
Na pior das hipóteses, alertaram para uma IA superinteligente que poderia procurar ganhar poder e controlo sobre a sociedade, levando à perda de decisões humanas ou mesmo à extinção se os seus “objetivos misteriosos” se alinharem com estes resultados.
Para mitigar os riscos, a equipe propõe diversas medidas: leis “bot ou não” que exigem que as empresas divulguem interações humanas ou de IA, marcas d’água digitais para conteúdo gerado pela nova tecnologia e o desenvolvimento de mecanismos para detectar o potencial engano, examinando seu “processos de pensamento” internos contra ações externas.
Para aqueles que o chamam de pessimista, Park responde: “A única maneira de podermos razoavelmente pensar que isso não é grande coisa é pensarmos que as capacidades enganosas da IA permanecerão nos níveis atuais e não serão desenvolvidas substancialmente”.
Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipe de cientistas publicado na revista Patterns.
Comentários
Droga estava escondida em bunker subterrâneo e seria enviada à Europa; um homem foi preso e investigação aponta ligação com cidadãos britânicos procurados internacionalmente
Cocaína estava armazenada em um bunker de empresa de fachada em Blumenau. Fot: captada
A Polícia Federal (PF) apreendeu 613 quilos de cocaína durante uma operação de combate ao tráfico internacional de drogas em Blumenau, no Vale do Itajaí (SC). A ação contou com apoio da Polícia Militar de Santa Catarina e resultou na prisão de um homem suspeito de integrar a organização criminosa.
A droga estava escondida em um bunker no subsolo de um galpão pertencente a uma empresa de exportação de ligas metálicas, que funcionava como fachada para o esquema. Segundo as investigações, o local era usado para o preparo e armazenamento da cocaína antes do envio para a Europa.
Durante a operação, a PF também cumpriu um mandado de busca em um endereço residencial em Florianópolis ligado ao suspeito, onde foram apreendidos veículos, embarcações, joias e documentos. O inquérito aponta a existência de uma estrutura criminosa internacional com base em Santa Catarina, que contava com suporte logístico de brasileiros e liderança de cidadãos britânicos com histórico de tráfico na Inglaterra e procurados internacionalmente.
A investigação continua para identificar outros integrantes do esquema, que já tinha rotas estabelecidas para o narcotráfico transatlântico.
Comentários
Medida que exigia resultado negativo para condutores de motos e carros foi rejeitada com argumento de aumento de custos e risco de mais pessoas dirigirem sem habilitação; novas regras do Contran para tirar CNH sem autoescola, no entanto, podem alterar contexto
Na justificativa do veto, o governo argumentou que a exigência aumentaria os custos para tirar a CNH (Carteira Nacional de Habilitação) e poderia influenciar na decisão de mais pessoas dirigirem sem habilitação. Foto: captada
O governo federal vetou a exigência de exame toxicológico para obter a primeira habilitação nas categorias A (motos) e B (carros de passeio). A medida, que seria incluída no Código de Trânsito Brasileiro, foi rejeitada com a justificativa de que aumentaria os custos para tirar a Carteira Nacional de Habilitação (CNH) e poderia incentivar mais pessoas a dirigirem sem a documentação obrigatória.
O veto, no entanto, pode ter perdido parte de sua sustentação após o Conselho Nacional de Trânsito (Contran) editar resolução que permite a retirada da CNH sem a obrigatoriedade de cursar autoescola, reduzindo significativamente o custo total do processo de habilitação.
Outro ponto do projeto que virou lei, e também relacionado aos exames toxicológicos, permite que clínicas médicas de aptidão física e mental instalem postos de coleta laboratorial em suas dependências — desde que contratem um laboratório credenciado pela Senatran para realizar o exame. O governo também vetou esse artigo, alegando riscos à cadeia de custódia do material, o que poderia comprometer a confiabilidade dos resultados e facilitar a venda casada de serviços(exame físico e toxicológico no mesmo local).
As decisões refletem um debate entre a busca por maior segurança no trânsito — com a triagem de possíveis usuários de substâncias psicoativas — e o impacto financeiro e logístico das novas exigências para os futuros condutores.
Assinatura eletrônica
O terceiro item a ser incluído na lei é o que permite o uso de assinatura eletrônica avançada em contratos de compra e venda de veículos, contanto que a plataforma de assinatura seja homologada pela Senatran ou pelos Detrans, conforme regulamentação do Contran.
A justificativa do governo para vetar o trecho foi que isso permitiria a fragmentação da infraestrutura de provedores de assinatura eletrônica, o que poderia gerar potencial insegurança jurídica diante da disparidade de sua aplicação perante diferentes entes federativos.
Comentários
Equipamento JBL, resistente à água, foi encontrado na Praia do Hermenegildo após provavelmente cair de um navio a 300 km dali; aparelho ligou normalmente
A caixa de som, projetada para ser resistente à água, sobreviveu à corrosão salina por todo esse período. Ao ser ligada, o equipamento funcionou normalmente. Foto: captada
Uma caixa de som à prova d’água da marca JBL passou cerca de três meses no mar e foi encontrada intacta e ainda funcionando na Praia do Hermenegildo, no extremo sul do estado. A descoberta foi feita por um morador que passeava de quadriciclo na orla na última segunda-feira (30) e avistou o equipamento entre algas e areia.
Acredita-se que a caixa tenha caído de um container durante um transporte marítimo em agosto, próximo à Praia de São José do Norte, a cerca de 300 quilômetros dali. Apesar do longo período submerso e da exposição à água salgada, que acelera a corrosão, o aparelho resistiu e ligou normalmente quando testado.
O caso chamou atenção pela durabilidade do produto, projetado para ser resistente à água, e pela jornada incomum — percorrer centenas de quilômetros à deriva no oceano e ainda chegar em condições de uso à costa gaúcha. A situação virou uma curiosidade local e um exemplo inusitado de “sobrevivência” tecnológica.
Você precisa fazer login para comentar.