Nesta terça-feira, 6 de outubro, participo do 2º Seminário de Temas Emergentes sobre o Trabalho e a Empregabilidade, promovido pelo Conselho Regional de Administração do Rio de Janeiro (CRA-RJ). Fui convidado para a mesa “A Inteligência Artificial e as decisões humanas nas organizações: quem comanda?”.
A pergunta me interessa porque tenho certa resistência à maneira como começamos a falar sobre inteligência artificial. “A IA decidiu.” “O algoritmo selecionou.” “O sistema recusou.” São frases que entraram no vocabulário das empresas e ajudam a criar uma conveniente distância entre a decisão e quem deveria responder por ela.
A máquina, porém, não chegou sozinha à empresa. Alguém contratou aquela tecnologia. Alguém definiu quais processos seriam automatizados, quais dados seriam utilizados e até onde uma recomendação algorítmica poderia interferir na vida de outras pessoas. Mesmo quando ninguém conhece em detalhes o funcionamento do modelo, houve uma decisão anterior: confiar nele.
Pense no recrutamento. Um sistema pode analisar milhares de currículos e indicar os candidatos considerados mais adequados a uma vaga. Parece eficiente. Mas adequado segundo quais critérios? Se o modelo aprende com contratações anteriores, pode aprender também com os preconceitos daquele passado. Uma preferência humana pode retornar disfarçada de resultado técnico.
Na gestão de pessoas, minha preocupação é semelhante. Ferramentas já conseguem reunir informações sobre produtividade, metas, tempo gasto em atividades e comportamento profissional. O risco está em confundir aquilo que pode ser medido com o próprio trabalho.
Uma pessoa pode resolver em meia hora um problema que consumiria uma tarde inteira de outra. Um professor pode passar horas sem produzir algo visível enquanto prepara mentalmente uma aula. Um jornalista pode ficar diante da tela sem escrever uma linha e encontrar, naquele intervalo, o caminho de uma reportagem.
Como um algoritmo mede isso? Se a IA for preparada para enxergar somente aquilo que pode ser convertido em dado, teremos sistemas muito competentes para medir uma parte do trabalho e cegos para outra. Isso não significa rejeitar a inteligência artificial. Uso IA, estudo o tema e acompanho suas possibilidades. O que recuso é a ideia de que uma recomendação algorítmica seja naturalmente mais objetiva porque foi produzida por uma máquina.
Algoritmos carregam escolhas humanas. Elas aparecem nos dados, nos critérios de classificação, na programação e na própria decisão de utilizar determinado sistema. A matemática pode reduzir algumas formas de subjetividade. Não elimina interesses, prioridades ou visões de mundo.
A IA generativa acrescentou outro problema. Textos, imagens, códigos, relatórios e análises surgem em segundos, muitas vezes acompanhados de uma segurança impressionante. Quem utiliza essas ferramentas com frequência já percebeu que segurança e verdade não são sinônimos.
Uma das competências profissionais mais necessárias daqui para frente é saber desconfiar da resposta pronta. Para as organizações, isso exige cuidado com uma frase que deveria provocar desconforto: “o sistema indicou”.
Quanto maior a consequência de uma decisão sobre a vida de alguém, maior deveria ser a capacidade de explicá-la. Contratar, demitir, promover, conceder crédito, selecionar ou avaliar são decisões com efeitos concretos. Uma pontuação gerada por uma máquina pode ajudar nesses processos. Não deveria servir como salvo-conduto para quem decide.
Há ainda uma contradição curiosa. Quando a tecnologia acerta, celebramos a eficiência da organização. Quando erra, culpamos o algoritmo. É confortável demais. É com essa inquietação que chego à mesa do CRA-RJ. O título pergunta quem comanda quando inteligência artificial e decisões humanas se encontram dentro das organizações. Minha resposta inicial é que continuamos comandando — inclusive quando escolhemos entregar parte desse comando às máquinas.
É nesse ponto que começa a responsabilidade. Se decidimos quais sistemas usar, em quais situações confiar neles e até onde seguir suas recomendações, não podemos desaparecer quando o resultado é ruim.
Na terça-feira, quero discutir isso com os demais participantes da mesa e com o público. Porque a pergunta “quem comanda?” precisa vir acompanhada de outra, menos confortável: quando a IA participa de uma decisão, quem está disposto a responder por ela?
