Feridos em guerra: decide a AI

Em Março passado, a DARPA (acrónimo da Defense Advanced Research Projects Agency) anunciou que estava a trabalhar num sistema inovador de inteligência artificial (o documento completo: Broad Agency Announcement) capaz de tomar decisões no campo dos cuidados de saúde. O projecto, chamado In The Moment, coloca pela primeira vez a inteligência artificial (AI) na linha da frente do sector militar.

Já existiam sistemas que permitiam a exploração da AI, mas eram software que exigiam a intervenção humana para agir. Mas o projecto da DARPA vai mais além: caso os estudos iniciais produzam resultados positivos, a AI terá a tarefa de gerir a triagem durante uma batalha, através de algoritmos que possam permitir definir quais as intervenções a priorizar, permitindo, segundo os pesquisadores, salvar mais vidas do que até agora, num espaço de tempo extremamente curto.

Claramente, o receio dos peritos é que a AI possa desenvolver tendências potencialmente letais, levando-a a decidir salvar uma pessoa em vez de outra com base em preconceitos gerados pelos dados com os quais é alimentada em vez de elementos médicos objectivos.

A campanha da DARPA

Durante mais de cinquenta anos, a DARPA, um organismo americano líder no campo da investigação e desenvolvimento de tecnologias avançadas no sector militar, tem centrado a sua investigação na AI, a nova fronteira, a fim de facilitar o progresso e a aplicação de tecnologias de inteligência artificial baseadas na aprendizagem por parte das máquinas, capazes de adquirir novos conhecimentos através de modelos generativos contextuais e explicativos.

Já em Setembro de 2018, tinha sido anunciado um investimento plurianual de mais de 2 mil milhões de Dólares com o objectivo de apoiar a chamada campanha AI Next. Os objectivos a que os projectos de investigação se destinavam eram:

  • automatizar processos críticos do Departamento da Defesa;
  • melhorar a robustez e fiabilidade dos sistemas de AI;
  • melhorar a segurança e a resiliência na aprendizagem de máquinas e tecnologias de AI;
  • reduzir as ineficiências em potência, dados e desempenho dos sistemas de AI.

Um desenvolvimento “obrigatório” dados os problemas que a formação da AI ainda apresenta, também ligados ao tempo e aos custos.

As máquinas previstas pela DARPA:

funcionarão mais como colegas do que como ferramentas. Para este fim, a investigação e o desenvolvimento da DARPA na simbiose homem-máquina visa a colaboração com as máquinas. Habilitar os sistemas informáticos desta forma é da maior importância porque os sensores, os sistemas de informação e comunicação geram dados a velocidades mais rápidas do que as que os humanos podem assimilar, compreender e agir. A incorporação destas tecnologias em sistemas militares que colaboram com os combatentes facilitará melhores decisões em ambientes de batalha complexos, críticos do ponto de vista do tempo; permitirá uma compreensão partilhada de informação maciça, incompleta e contraditória; e permitirá aos sistemas não tripulados executar missões críticas com segurança e com elevados níveis de autonomia.

O projecto In the Moment

É neste contexto que foi criado o projecto In the Moment, com o objectivo de permitir a gestão rápida da triagem das vítimas em contextos em que a rápida tomada de decisões é essencial. Objectivo declarado? O bem dos combatentes.

As operações militares, desde o combate à triagem médica até ao socorro em caso de catástrofe, exigem decisões complexas e rápidas em situações dinâmicas em que muitas vezes não existe uma resposta única e correcta. Dois líderes militares experientes que enfrentam o mesmo cenário no campo de batalha, por exemplo, podem tomar decisões tácticas diferentes quando confrontados com opções difíceis. À medida que os sistemas de inteligência artificial se tornam mais avançados na sua colaboração com os humanos, é crucial criar a adequada confiança humana na capacidade da AI para tomar decisões sólidas.

Pelo que, em vez que trabalhar para eliminar as guerras, a DARPA investe biliões para realizar sistemas não-humanos capazes de socorrer as vítimas da guerra. Perante a estupidez humana, o objectivo é criar “confiança humana na capacidade da AI”, e algoritmos que “façam escolhas fiáveis em circunstâncias difíceis”. O projecto procura conceber “algoritmicamente um raciocínio que possa ser comparado com as interpretações feitas pelos peritos humanos, de modo a assimilar o raciocínio da máquina ao do homem e evitar, tanto quanto possível, a ocorrência de imprecisões no diagnóstico” e proporcionar “o consequente planeamento das acções a empreender”.

Justo que a AI entre em cena para aliviar as consequências da estupidez humana? Sim, é justo. Mas não é tão simples assim. A inteligência artificial tem a capacidade para decidir sobre o destino dos feridos num cenário de completa automatização? Porque é disso que estamos a falar.

Sohrab Dalal, Coronel e chefe do ramo de transformação médica do Supreme Allied Command Transformation da NATO diz que sim (obviamente): o processo de triagem, através do qual os médicos avaliam a gravidade dos ferimentos dos soldados e os cuidados de que necessitam, tem quase 200 anos e precisa de ser actualizado. O próprio Dalal está a trabalhar com a Universidade Johns Hopkins para criar um assistente de triagem digital que possa ser utilizado pelos Países membros da NATO. Neste caso, o assistente digital utilizará conjuntos de dados de lesões recolhidos pela NATO, sistemas de pontuação de vítimas, modelação preditiva e condição do paciente para criar um modelo que permita decidir quem deve receber primeiro os cuidados numa situação em que os recursos são limitados e o tempo extremamente curto.

Segundo Dalal:

É uma utilização realmente boa da inteligência artificial. O resultado final é que irá tratar melhor os pacientes e salvar vidas.

Da opinião contrária, porém, são especialistas como Sally A. Applin, investigadora e consultora que estuda o conjunto de pessoas, algoritmos e ética:

A inteligência artificial é boa a contar coisas. mas penso que poderia criar um precedente em que a decisão pela vida de alguém é colocada nas mãos de uma máquina.

Muitos especialistas em ética questionam-se, em particular, como funcionará na prática a AI desenvolvida pela DARPA: será que os conjuntos de dados utilizados resultarão em alguns soldados terem prioridade de tratamento sobre outros (sendo todos os outros iguais)? No calor do momento, será que os soldados farão simplesmente o que o algoritmo lhes disser, mesmo que o senso comum sugira o contrário? E, se o algoritmo desempenha um papel na morte de alguém, de quem é a culpa?

Peter Asaro, filósofo da AI na New School de New York, argumenta que os oficiais militares terão de decidir quanta responsabilidade é dada ao algoritmo no processo de tomada de decisão da triagem, e como resolver as muitas questões éticas subjacentes à utilização de tal sistema. Por exemplo: se houver uma grande explosão e civis entre os feridos, será que teriam menos prioridade do que os militares, mesmo que estivessem gravemente feridos?

Isto é uma chamada de valores, é algo que pode ser dito à máquina para dar prioridade de certas formas, mas é algo que a máquina não vai compreender.

A este respeito, acrescentou também que, como o programa se molda a si próprio, será importante verificar se o algoritmo está a perpetuar um processo de decisão distorcido, como já aconteceu em muitos casos:

Sabemos que há um prejuízo no AI; sabemos que os programadores não podem prever todas as situações; sabemos que a AI não é social; sabemos que a AI não é cultural.

Porque o processo decisional da AI não é igual ao nosso, que costuma ser mediado por uma infinidade de variáveis. E o processo decisional da AI é influenciado pela mesma AI, que evolui com o tempo. Quais serão os “valores” gerados pela AI?

AI na guerra: o presente

A inteligência artificial já desempenha um papel importante no contexto militar. Existem vários instrumentos militares que actuam de forma quase completamente autónoma, guiados pela AI. Um par de exemplos:

  • O TB2 Bayraktar, um veículo aéreo táctico não tripulado de fabrico turco (ou seja, um drone) que pode transportar mísseis anti-tanque, que aterra e descola sozinho graças à AI, mas que ainda requer intervenção humana para activar armas;
  • O Lantset, um drone russo utilizado na Síria, concebido para atacar tanques, colunas de veículos ou concentrações de tropas: voa autonomamente até detectar um alvo predefinido e embater nele, explodindo.

Para além destes instrumentos, existem também as AI que têm a tarefa de alterar a informação no decurso de um conflito armado, gerando notícias falsas ou verossímeis para radicalizar a opinião pública. Trata-se da AI ao serviço da propaganda: o que faz com que as pessoas suspeitem de falsidade mesmo onde não há nenhuma ou acreditem em algo que nunca aconteceu. Qualquer referência à guerra na Ucrânia não é acidental.

 

Ipse dixit.

Imagem: Pixabay

14 Replies to “Feridos em guerra: decide a AI”

  1. Este comentário refere-se ao artigo anterior
    Olá Max e todos:
    O Reset explicado nos prognósticos do Fórum Mundial ( os participantes são verdadeiros iluminados porque sabem de antemão tudo que vai acontecer…ou planejam tudo bem direitinho) apresenta na vida real o previsto “magistralmente” resumido na frase : “não terás nada, e serás feliz”
    Olha Max,
    Se os povos irremediavelmente muito mais pobres tiverem a sua disposição meios de comunicação de massa, tão “verdadeiros” como os atuais, podes estar certo que os povos serão felizes malgrado toda pobreza, inclusive esta mais braba de ir dormir com fome.
    A guerra da comunicação estará a trabalhar a todo pano neste sentido. Convencerá facilmente as criaturas que é ótimo não ter casa, se livrando de tantos impostos e dificuldades de manutenção em nome de um “simples” aluguel onde os impostos estão incluídos. Nunca se perguntarão porque o Bill Gates tornou-se o maior proprietário de terras nos EUA.
    Mas há algo que me confunde. Esta guerra, se for vencida por Rússia (e acredito nisso) tirará do pedestal o mando dos EUA, com a desvalorização do dólar e a queda desta moeda como única na maioria dos negócios de compra e venda. Muitas moedas serão utilizadas e o mundo multipolar terá chance de se instalar.
    Creio não haver possibilidade dos ditames do Reset e um mundo multipolar conviverem ao mesmo tempo. Ou o mundo fica totalmente sob o domínio dos multimilionários, sendo os estados mera formalidade, conforme a estratégia do Reset, ou ocorre a junção de Estados na multipolaridade, e entendo que isso favoreceria a saúde dos povos.

    1. Mas como haverá “junção de estados” se os mesmos estão sob tutela do grande capital supranacional?

  2. Acontecerá o que um humano não faz, uma AI vai considerar que qualquer tratamento médico em um humano ferido só irá adiar a morte desse ferido e gerar mais despesas ao estado (proprietário da AI), então vai logicamente matar o ferido em combate, perdeu !

  3. Não percebo nada de AI, mas este projecto cheira-me a um procedimento de Deep Learning em ‘decisão crítica’ disfarçado de salva-vidas.

  4. Conversa entre médico e colaborador IA:
    Médico: Tenho aqui 2 feridos, um mercenário e um voluntário. Quem trato?
    Colaborador IA: Espere um pouco que vou perguntar ao meu programador?

  5. Oi Chaplin: quando eu digo junção de estados estou pensando em moedas comuns entre eles, trocas preferenciais entre eles.
    Me parece que isso é possível, caso o atual império desmorone e os Estados venham a ter uma relação de entendimento mútuo, regulamentando o roubo das corporações.
    Putin e sua diplomacia convive com as corporações e seus multimilionários, e até tem em alguns deles auxílio. Por outro lado, não deixa a Rússia ser exaurida por dentro, mantendo seus multimilionários sob controle.

    1. Oi Maria! Teríamos como saber se Putin mantém seus bilionários sob controle? E o que significaria o tal controle? Abraço

  6. Olá Max e todos: só faltava esta!
    Mas, pensando bem, as criaturas treinadas para os confrontos militares, ficam bem parecidas com máquinas, penso eu:
    Emprestam valor a não tomada de decisões próprias ou coletivas, mantendo rígida obediência à hierarquia militar.
    Liberam uma tal quantidade de adrenalina que são capazes de correr quilômetros, carregando mochila, arma e munição, mais de 60quilos.
    São treinados a ver num igual, um inimigo, sempre prontos a tirar a vida do outro, a aleijá-lo, a torturá-lo, a esmagá-lo, sem expressar a menor repulsa por estes crimes. Pelo contrário, quanto mais prejuízo causar ao “inimigo”, mais digno de louvor será considerado.
    Quando convocado ao combate, considera-se um forte, um privilegiado, um salvador da pátria, disposto a comportar-se tal qual um rambo.
    Transformar um homem em uma máquina de extermínio deve exigir mais pesquisa científica do que inventar uma engenhoca digital para dar respostas, tais quais o programador o programou, mesmo que estas configurem-se como escolhas.

  7. Oi Chaplin: o suposto controle sobre os bilionários de Putin.
    Olha Chaplin, Putin teve uma grande vantagem para sua vida pública, trabalhar na KGB. Com isso ficou sabendo dos “podres de muita gente de bem”.
    Diz-se que ao assumir o comando e poder na Rússia, fez uma reunião com os ditos endinheirados, demonstrando a penúria que envolvia o país. Cobrou-lhes os impostos atrasados, e autorizou-os, os que queriam continuar na Rússia, pagando impostos e não se metendo na sua política, só teriam a ganhar debaixo do seu comando Os que não quisessem podiam mudar-se, eles, famílias ( alguns são os que hoje, da Ucrânia tentam abater Putin e seu país).
    Na verdade, alguns discordantes foram presos, outros morreram.
    E os que ficaram vivos e muito bem com as suas fortunas perceberam que junto de Putin seria o melhor lugar para permanecer, inclusive ao seu lado.
    È por isso que eu falo que Putin mantém sob controle seus milionários.

    Olá Max: que sumiço é este, por favor retorna antes que a terceira guerra seja oficializada. Isso não demora, e a tua demora faz grande falta por aqui.

    1. Oi Maria! Gostaria de acreditar nisso. Mas penso que Putin faz parte de algo maior e muito além da própria Rússia. Estamos vivenciando um processo de âmbito global em que as cordas são puxadas por um poder supranacional, mas cujos governos nacionais são os executores do avanço de tal processo, de uma forma ou de outra. Apesar do povo russo, assim como o alemão, ter uma cultura nacionalista, foram e são governados (e isto historicamente) na maior parte do tempo, por elites cujas ascendências sequer russas ou alemãs eram…acho q dá para entender…abraço.

      1. Em tempo: governados “de fato” (obscurecidos pela historiografia) e não nominalmente (realçados pela historiografia oficial).

    2. Oi Maria… O Max deve estar a compilar a sua história do donos do poder… espero.
      Nos artigos do Verdadeiro Poder, ele descreveu os grupos, corporações e afins.
      Se for para completar, julgo que será pela história dos seus donos, os verdadeiros proprietários.
      Trabalho complicado que inclui muita da aristocracia da Europa e em particular alguma (italiana) cujas origens remontam ao império romano e à criação da denominada religião “católico-cristã” na Europa. Seus descendentes são os seus verdadeiros donos nos nossos dias… O papa, o tal que veste de branco, é só mais um fantoche.

  8. Olá a todos! O que vcs acham de criar um espaço no blog como um tipo de Fórum onde os interessados pudessem inserir conteúdos entendidos como relevantes? E óbvio, ficando sua extensão e a autorização subordinada ao editor do blog.

  9. Olá Alfbber:
    Acho que não. O Max lê, pesquisa e escreve, tudo junto.
    Quando se ausenta, ou tirou férias, ou algo o afetou que o fez sair do prumo, pelo menos é o que observo nessa década de II.

    Olá Chaplin: dá para entender, sim. E sei que tens muito mais conhecimento do que eu para amparar tuas afirmações. Não vou me opor a elas.
    Mas o meu “faro” diz que a cultura russa tem lá suas idiossincrasias, (não falo das novas gerações contaminadas pelo consumismo ocidental) e Putin é filho das tradições e cultura russas, além de ser dotado de astúcia e inteligência acima da média. A vida proporcionou-lhe oportunidade de encarnar o governo do seu país, e ele desejou, e parcialmente vem conseguindo encarnar o poder de largar-se aos poucos dos fios que tudo manobram.
    Penso que ele anseia ser um bom czar para um povo que se estenda por um terço do território mundial, e um czar demolidor do império mais pretensioso, cruel, mentiroso e estúpido que domina o chamado ocidente e rapina o mundo inteiro .Um império que criou cobras venenosas e estabeleceu aliança com o poder invisível e maior a que te referes.

Obrigado por participar na discussão!

This site uses User Verification plugin to reduce spam. See how your comment data is processed.

Este site utiliza o Akismet para reduzir spam. Fica a saber como são processados os dados dos comentários.

%d bloggers like this: