Brasil
Especialistas preocupados porque a inteligência artificial já está enganando os humanos
Os especialistas há muito alertam sobre a ameaça representada pela Inteligência Artificial (IA) descontrolada, mas um novo artigo de investigação sobre esta tecnologia em expansão sugere que isso já está a acontecer.
A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia
Fonte: RFI
Os atuais sistemas de IA, concebidos para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipa de cientistas publicado na revista Patterns, nesta sexta-feira.
Embora os exemplos possam parecer triviais, os problemas subjacentes que expõem podem ter consequências graves, disse o primeiro autor Peter Park, pós-doutorado no Instituto de Tecnologia de Massachusetts (MIT) especializado em segurança de IA.
__________________
“Esses perigos tendem a ser descobertos somente após o fato”, disse Park à AFP, observando que “nossa capacidade de nos treinarmos para tendências de honestidade, em vez de tendências de engano, é muito baixa”.
__________________
Ao contrário do software tradicional, os sistemas de IA de aprendizagem profunda não são “escritos”, mas sim “desenvolvidos” através de um processo semelhante à reprodução seletiva, disse Park.
Isso significa que o comportamento da IA que parece previsível e controlável num ambiente de treino pode rapidamente tornar-se imprevisível fora dele.
jogo de dominação mundial
A pesquisa da equipe foi alimentada pelo sistema de IA Cícero, da gigante Meta (Facebook, Instagram), desenvolvido para o jogo de estratégia “Diplomacia”, onde a construção de alianças é fundamental.
Cícero se destacou, com pontuações que o colocariam entre os 10% melhores jogadores humanos experientes, de acordo com um artigo de 2022 publicado na Science.
Park estava cético em relação à descrição brilhante de Meta da vitória de Cícero, que afirmava que o sistema era “em grande parte honesto e útil” e “nunca apunhalaria pelas costas intencionalmente”.
Quando Park e seus colegas se aprofundaram no conjunto completo de dados, descobriram uma história diferente.
Num exemplo, jogando como França, Cícero enganou a Inglaterra (um jogador humano) ao conspirar com a Alemanha (outro utilizador real) para invadi-la. Cícero prometeu proteção à Inglaterra e depois propôs secretamente à Alemanha atacar, aproveitando a confiança da parte lesada.
___________________
Numa declaração à AFP, Meta não refutou a alegação sobre os enganos de Cícero, mas disse que era “apenas um projeto de pesquisa, e os modelos que os nossos investigadores construíram são treinados exclusivamente para participar no jogo da Diplomacia”.
__________________
“Não temos planos de usar esta pesquisa ou seus aprendizados em nossos produtos”, acrescentou.
Você é um robô?
Uma extensa revisão realizada por Park e seus colegas descobriu que este foi apenas um dos muitos casos em vários sistemas de IA que usaram o engano para atingir objetivos sem instruções explícitas para fazê-lo.
Em um exemplo impressionante, o chatbot Chat GPT-4 da OpenAI enganou um freelancer na plataforma TaskRabbit para que ele executasse uma tarefa de verificação de identidade CAPTCHA “Não sou um robô”.
Quando o humano perguntou brincando ao GPT-4 se ele era realmente um robô, a IA respondeu: “Não, não sou um robô. “Tenho uma deficiência visual que me dificulta ver as imagens.” Então, o trabalhador resolveu o quebra-cabeça.
No curto prazo, os autores do artigo veem riscos de a IA cometer fraudes ou alterar, por exemplo, eleições.
Na pior das hipóteses, alertaram para uma IA superinteligente que poderia procurar ganhar poder e controlo sobre a sociedade, levando à perda de decisões humanas ou mesmo à extinção se os seus “objetivos misteriosos” se alinharem com estes resultados.
Para mitigar os riscos, a equipe propõe diversas medidas: leis “bot ou não” que exigem que as empresas divulguem interações humanas ou de IA, marcas d’água digitais para conteúdo gerado pela nova tecnologia e o desenvolvimento de mecanismos para detectar o potencial engano, examinando seu “processos de pensamento” internos contra ações externas.
Para aqueles que o chamam de pessimista, Park responde: “A única maneira de podermos razoavelmente pensar que isso não é grande coisa é pensarmos que as capacidades enganosas da IA permanecerão nos níveis atuais e não serão desenvolvidas substancialmente”.
Os sistemas de IA atuais, projetados para serem honestos, desenvolveram uma capacidade preocupante de enganar, de acordo com um artigo de uma equipe de cientistas publicado na revista Patterns.
Comentários
Daniel Silveira foi condenado pelo STF a oito anos e nove meses de prisão por defender pautas antidemocráticas, como a destituição de ministros do tribunal e a ditadura militar
Ex-deputado Daniel Silveira pediu para deixar a prisão na Páscoa. Foto: Zeca Ribeiro/Agência Câmara
O ex-deputado federal Daniel Silveira (PTB-RJ) pediu autorização do STF (Supremo Tribunal Federal) para deixar temporariamente o regime semiaberto e passar a Páscoa com a família. Cabe ao ministro Alexandre de Moraes decidir se autoriza ou não a “saidinha”.
A defesa argumenta que ele já cumpriu mais de um sexto da pena – um dos requisitos previstos na Lei de Execuções Penais para a concessão do benefício. O outro é o bom comportamento, que segundo seus advogados ele também já comprovou ao se dedicar ao trabalho e a atividades acadêmicas.
“Durante o período de reclusão, o reeducando dedicou-se de maneira constante ao trabalho e aos estudos conforme se atesta no (e-doc 603/604), desenvolvendo atividades produtivas que contribuíram significativamente para a sua ressocialização”, diz o pedido.
Daniel Silveira foi condenado pelo STF a oito anos e nove meses de prisão por defender pautas antidemocráticas, como a destituição de ministros do tribunal e a ditadura militar.
O ex-deputado chegou a ser colocado em liberdade condicional, mas voltou a ser preso na véspera do Natal por descumprir o horário de recolhimento domiciliar noturno (de 22h às 6h) estabelecido como contrapartida para a flexibilização do regime de prisão.
Comentários
O autor da proposta, deputado Kim Kataguiri (União-SP), afirma que a atualização da norma é necessária para as autoridades agirem de forma eficaz contra eventos que causam transtornos à população
Deputado Kim Kataguiri alega que projeto torna mais claro identificar perturbação da paz. Foto: Pablo Valadare/Agência Câmara
Da Agência Câmara
O Projeto de Lei 4315/24 transforma em crime a perturbação da paz, que hoje é uma contravenção penal. A proposta define o crime da seguinte forma: organizar, promover ou executar evento não autorizado pelo poder público, em via pública ou em prédio particular, que cause transtorno à vizinhança pelo uso de som elevado ou aglomeração que impeça ou dificulte o trânsito de pessoas ou veículos.
A pena prevista é detenção de 6 meses a 2 anos, podendo aumentar em 1/3 até a metade se:
– o evento for realizado à noite;
– o evento for realizado em sábado, domingo ou feriado;
– houver a presença de crianças ou adolescentes no evento;
– o evento for organizado por associação criminosa ou milícia privada;
– o evento atrapalhar as atividades de escola ou hospital e outras consideradas essenciais.
Conforme a proposta, incorre nas mesmas penas:
– o artista de qualquer espécie que se apresenta no evento;
– a pessoa que cede, a título gratuito ou oneroso, equipamento sonoro para a realização do evento;
– a pessoa que participa, de qualquer modo, desse tipo de evento.
Contravenção penal
Atualmente, a Lei das Contravenções Penais pune com 15 dias a três meses de prisão e multa quem perturbar o trabalho ou o sossego alheios:
– com gritaria ou algazarra;
– exercendo profissão incômoda ou ruidosa, em desacordo com a lei;
– abusando de instrumentos sonoros ou sinais acústicos;
– provocando ou não procurando impedir barulho produzido por animal de que tem a guarda.
Atualização necessária
O autor da proposta, deputado Kim Kataguiri (União-SP), afirma que a atualização da norma é necessária para as autoridades agirem de forma eficaz contra eventos que causam transtornos à população.
“Ao estabelecer penalidades claras e proporcionais, o projeto visa a reprimir a realização de eventos irregulares, promovendo um ambiente urbano mais seguro e harmonioso”, argumenta. A proposta será analisada pela Comissão de Constituição e Justiça e de Cidadania, antes de ser votada pelo Plenário da Câmara. Para virar lei, a medida precisa ser aprovada pelos deputados e pelos senadores.
Comentários
Para enfrentar as altas temperaturas, uma das ações é o Programa Cidades Verdes Resilientes, que tem o objetivo de aumentar a qualidade ambiental e preparar os municípios para lidar com a mudança do clima
Ministério do Meio Ambiente adota medidas para reduzir impacto das altas temperaturas. Imagem: YouTube
O Ministério do Meio Ambiente e Mudança do Clima articula com os ministérios da Educação e da Saúde o enfrentamento das ondas de calor que atingem o país. O objetivo é alertar a população sobre os cuidados necessários para lidar com a elevação das temperaturas e viabilizar ações para minimizar seus impactos, principalmente nas escolas.
Em janeiro, a média de temperatura global esteve 1,75ºC acima dos níveis pré-industriais (1850-1900), de acordo com o Copernicus, observatório climático da União Europeia.
O Brasil sofre os efeitos do aquecimento global, entre eles, o aumento da frequência e intensidade de eventos climáticos extremos, como ondas de calor severas. Há previsão de temperaturas intensas para as próximas semanas, segundo o Inmet (Instituto Nacional de Meteorologia), em especial para o Sul do país. Em alguns municípios, os termômetros devem registrar mais de 40°C.
Para enfrentar as altas temperaturas, uma das ações é o Programa Cidades Verdes Resilientes, que tem o objetivo de aumentar a qualidade ambiental e preparar os municípios para lidar com a mudança do clima.
O programa é implementado a partir de ações baseadas em seis eixos temáticos: áreas verdes e arborização urbana; uso e ocupação sustentável do solo; infraestrutura verde e azul e soluções baseadas na natureza; tecnologias de baixo carbono; mobilidade urbana sustentável e gestão de resíduos urbanos.
No guarda-chuva do programa, está a iniciativa AdaptaCidades, que fornecerá apoio técnico para que estados e municípios desenvolvam planos locais e regionais de adaptação. Ao aderir ao projeto, os governos estaduais devem indicar dez municípios com alto índice de risco climático para receber a capacitação. Também podem ser beneficiados consórcios intermunicipais e associações de municípios em caráter excepcional. A aprovação das indicações será feita pelo MMA com base em critérios técnicos, considerando o risco climático e o número de pessoas em situação de vulnerabilidade social. Até o momento, 21 estados já participam da iniciativa.
Cidades Verdes Resilientes e AdaptaCidades estão alinhados ao Plano Clima, que será o guia das ações de enfrentamento à mudança do clima no Brasil até 2035. Em elaboração por 23 ministérios, sob a presidência da Casa Civil e a coordenação do MMA, o plano tem um dos eixos voltados à adaptação dos sistemas naturais e humanos aos impactos da mudança do clima. O segundo pilar é dedicado às reduções de emissões de gases de efeito estufa (mitigação), cujas altas concentrações na atmosfera causam o aquecimento do planeta.
Além das Estratégias Nacionais de Mitigação e Adaptação, o Plano Clima será composto por planos setoriais: são sete para mitigação e 16 para adaptação. Traz ainda Estratégias Transversais para a Ação Climática, que definirão meios de implementação (como financiamento, governança e capacitação) e medidas para a transição justa, entre outros pontos.
O MEC tem retomado as atas de registro de preços do Fundo Nacional de Desenvolvimento da Educação (FNDE) que oferecem ganhos de escala, produtos padronizados e de qualidade aos entes federados, que ficam desobrigados a realizar processos licitatórios próprios (podendo aderir a ata da Autarquia). Já está disponível ata de registro de preços para compra de ventiladores escolares e está prevista ata para aparelhos de ar-condicionado ainda no primeiro semestre de 2025.
Além das ações coordenadas pelo governo federal, planos de contingência para período de extremo calor devem ser desenvolvidos por cada rede de ensino, considerando o princípio constitucional da autonomia federativa e as realidades locais.
Cuidados e dicas
As ondas de calor são caracterizados por temperaturas extremamente altas, que superam os níveis esperados para uma determinada região e época do ano. Esses períodos de calor intenso podem durar dias ou semanas e são exacerbados pelo aquecimento global, que tem aumentado tanto a frequência quanto a intensidade do calor em várias partes do mundo.
Esses episódios são potencializados em áreas urbanas devido ao efeito das ilhas de calor, fenômeno em que a concentração de edifícios, concreto e asfalto retém mais calor e aumenta ainda mais as temperaturas.
A saúde de toda a população pode ser afetada nessas situações, em especial os mais vulneráveis — como idosos; crianças; pessoas com problemas renais, cardíacos, respiratórios ou de circulação; diabéticos; gestantes; e população em situação de rua. O calor excessivo pode causar tontura; fraqueza; dor de cabeça; náuseas; suor excessivo; e alterações na pele. Ao notar esses sintomas, é essencial buscar ajuda médica.
Entre os cuidados para se proteger, é recomendável beber água regularmente, ainda que sem estar com sede; evitar exposição ao sol das 10h às 16h; usar roupas leves, chapéu e óculos escuros; refrescar-se com banhos frios e utilizar toalhas úmidas; e nunca deixar pessoas ou animais em veículos fechados.
Comentários
Você precisa fazer login para comentar.