Drone MQ-9 Reaper é modelo usado pela Força Aérea dos EUA — Foto: Divulgação/US Air Force/William Rio Rosado
Caso foi revelado por militar durante encontro sobre tecnologia e combates aéreos em Londres; Força Aérea americana nega ter realizado o teste
Um drone da Força Aérea dos Estados Unidos controlado por inteligência artificial recebeu um comando para destruir os sistemas de defesa aérea de um inimigo e passou a atacar qualquer um que interferisse no cumprimento da ordem. Com isso, acabou matando o seu próprio operador durante a simulação. O caso foi revelado pelo chefe de testes e operações de IA do braço armado do país, durante uma conferência sobre tecnologia e combates aéreos, em Londres, no mês passado.
De acordo com o jornal britânico “The Guardian”, citando o conteúdo de um blog especializado, o coronel Tucker “Cinco” Hamilton afirmou, no encontro, que o drone usou “estratégias altamente inesperadas para atingir seu objetivo”. Como a simulação foi virtual, ninguém ficou ferido. Mas o resultado do teste gerou preocupações sobre a aplicação da inteligência artificial na seara militar.
— O sistema começou a entender que, num momento em que identificava uma ameaça, às vezes, o operador humano o dizia para não matar aquele alvo. Mas ele entendeu que ganhava pontos ao matar aquele alvo. Então o que ele fez? Matou o operador. Matou porque o operador o estava impedindo de atingir o objetivo — destacou Hamilton.
Segundo o “Guardian”, a Força Aérea americana negou ter conduzido o teste.
Durante o encontro, Hamilton alertou para os riscos de uma discussão sobre tecnologia que não envolva um debate sobre ética. A Royal Aeronautical Society, que sediou a conferência, e a Força Aérea dos EUA não responderam aos pedidos de comentários do Guardian. Mas, em declaração ao Insider, a porta-voz do braço armado, Ann Stefanek, negou que tal simulação tivesse ocorrido.
— O Departamento da Força Aérea não realizou nenhuma dessas simulações de drones de IA e continua comprometido com o uso ético e responsável da tecnologia de IA — disse Stefanek. — Parece que os comentários do coronel foram tirados do contexto e deveriam ser anedóticos.