Dédalo: Conversa 5 – O erro humano ainda é o maior risco?

Dédalo construiu um labirinto para encerrar o Minotauro e acabou prisioneiro da própria engenharia. Séculos depois, a inteligência artificial criou um novo labirinto, e a pergunta que a Conversa 5 do 8º Seminário Previdência Complementar em Debate colocou foi direta: com as máquinas escalando os erros, o risco humano ainda é o maior de todos?

Na abertura, a mediadora Renata Desiderio, diretora da APEP e diretora-superintendente da Prev Novartis, resgatou a passagem da obra de Peter Bernstein, "Against the Gods", sobre o momento decisivo em que o ser humano passou a desenvolver instrumentos para medir e administrar o risco, traduzindo em probabilidades, modelos e controle a incerteza antes associada somente ao destino. Essa conquista, alertou, traz uma armadilha: ao quantificar o risco, passamos a tratá-lo como algo controlável, mas a incerteza continua irredutível, e os modelos amplificam o nosso conhecimento ao mesmo tempo em que alimentam o nosso excesso de confiança. No setor da previdência complementar, um sistema extremamente regulado, com horizonte de longuíssimo prazo e dependência total de julgamento humano, há ainda a camada que Bernstein não chegou a escrever: a inteligência artificial, que hoje não apenas calcula, mas analisa, narra e recomenda o que fazer.

Isabel Mattos, superintendente comercial da Bradesco Asset Management, respondeu de pronto à pergunta do painel: o erro humano ainda é o maior risco? Sim, ainda é, porque, no final, precisamos ter senso crítico, e o senso crítico não se delega para a máquina. Ela lembrou que a gestão de investimentos é risco todos os dias, e que até mesmo não fazer nada já é uma decisão de risco, o que exige um arcabouço de governança muito forte. O erro pode ser humano ou originar-se da base de dados, e a qualidade dos dados é primordial no processo de decisão, ainda mais com a inteligência artificial escalando o volume de informação disponível. Quando um erro acontece, é preciso avaliar por que ocorreu e se algum processo precisa ser revisto, com um time de seres humanos atuando para evitar novos riscos, porque risco dentro de uma gestora é passível de prejuízo e de ressarcimento.

Michele Campos Volpe, diretora jurídica da Rappi, ancorou a reflexão na figura de Dédalo: quem projetou o labirinto agora enfrenta o novo labirinto da inteligência artificial. Em plataformas digitais, onde muito do que se faz é baseado em tecnologia e dados, o ponto central é que a tecnologia escala o erro humano. Saindo da ideia de que um sistema maquínico opera sem interação humana, a advogada reforçou que os erros ganham hoje uma nova escala, e que optar por criar uma inteligência artificial exige curar os dados, com análise correta e curadoria para prevenir vieses. Para distinguir o erro humano do erro sistêmico, propôs perguntas objetivas: o erro é unitário, de uma pessoa, ou foi escalado no processo? Quanto tempo levamos entre descobrir o erro e tomar a providência? "Falar que o erro não vai acontecer", sintetizou, "é, talvez, o maior erro que cada um de nós pode cometer."

Isabel Mattos apresentou a experiência da Bradesco Asset Management com inteligência artificial, tema que mobiliza a casa há quatro anos, com uma área de estratégia e inovação, um hub e uma verdadeira fábrica de inteligência artificial. Uma das ferramentas, integrada à plataforma Bloomberg, lê atas de comitês de política monetária, e o laboratório da casa avalia cerca de 30 ideias de funcionários por vez, submetidas a um time humano, testadas por três meses e aprovadas segundo quatro critérios de governança: consistência dos resultados, confiabilidade dos dados, rastreabilidade e escalabilidade. Para a gestora, a responsabilidade não se delega à inteligência artificial, e a proteção de dados é prioridade, porque um fundo de pensão concentra praticamente a totalidade da vida financeira do participante de um plano.

Na sequência, Michele Campos Volpe destacou que, além das políticas formais, o cuidado com os dados pessoais é o que efetivamente produz resultado: mapeamento de dados, pseudonimização e anonimização antes de as informações circularem em determinadas ferramentas, e escolha criteriosa do sistema, porque muitas vezes dados são inseridos por padrão sem necessidade. Chamou atenção para o fenômeno da Shadow AI, o uso de ferramentas não autorizadas, como ChatGPT, Claude e Gemini, dentro das empresas, com potencial de utilização posterior das informações por terceiros, e defendeu o mapeamento dos processos internos, alimentado pelos próprios times, de controles internos a antifraude e risco. A advogada relativizou o erro individual: dificilmente o erro de uma pessoa causa um grande problema, o ponto central está no processo, e, ao usar essas ferramentas, o erro se dilui no caminho e se perde a informação de quem errou. Para o cliente na ponta final, pouco importa quem errou, o que importa é que a instituição errou, e é por isso que a construção conjunta, desde o dia zero, com privacy by design, cultura coerente e treinamentos, produz o melhor resultado.

Sobre o ambiente regulatório, Michele Campos Volpe lembrou que a ausência de um marco legal para a inteligência artificial é uma verdade de ponta a ponta, mas que a lei sempre nasce atrasada por definição. Já existem dispositivos relevantes no ordenamento, como artigos do Código Civil sobre responsabilidade, dispositivos das Leis Complementares 108 e 109 e a Resolução 615 do Conselho Nacional de Justiça, que trata de explicabilidade e transparência. Chamou atenção para o problema das decisões judiciais que utilizam inteligência artificial, com casos de alucinação, ou erro grosseiro, que somam mais de 40 decisões no Brasil, segundo um portal criado por pesquisador francês, e milhares no mundo. Como a inteligência artificial generativa é probabilística e trabalha com médias, ela pode deixar de capturar nuances fundamentais de temas como a minúcia do processo e os cálculos atuariais previdenciários. Quanto ao PL 2338, que avança lentamente e se inspira no AI Act europeu, ficou a provocação: qual é o posicionamento que o Brasil quer adotar na escala da inteligência artificial, uma regulamentação mais forte ou um caminho mais flexível, aberto à destruição criativa?

O fechamento do painel retomou a ilusão do controle. Para Renata Desiderio, os modelos modernos não só calculam, mas trazem análises, narrativas e recomendações, e a pergunta é o que pode ser mais prejudicial nos investimentos de longo prazo: o risco que o modelo não capturou, já que os inputs são nossos, ou o excesso de confiança comportamental da pessoa. Isabel Mattos defendeu a decisão colegiada, com comitês, pessoas que duvidam do que está sendo gerado e um julgamento crítico exercido todos os dias, e aconselhou os conselheiros: a nossa geração é a cereja do bolo, porque reúne experiência, inteligência de longo prazo da previdência e uma ferramenta que devolve tempo, a ser usado com a própria inteligência na tomada de decisão. Michele Campos Volpe acrescentou um alerta sobre o viés imposto pela herança da máquina assertiva: crescemos em uma época em que a máquina estava certa, e o movimento necessário agora é partir do pressuposto de que a inteligência artificial pode estar errada. O senso crítico, concluiu, é o maior ativo da geração atual, porque a qualidade da resposta está atrelada à qualidade das perguntas feitas.

Se Dédalo foi quem projetou o labirinto, cabem aos conselheiros, dirigentes e gestores do segmento desenhar a saída. A inteligência artificial escala o erro humano, mas não substitui o que a experiência acumulou: a inteligência de longo prazo da previdência e o senso crítico, que não se delega à máquina. Duvidar, testar, validar e fazer perguntas assertivas foram os conselhos que ficaram ao setor, para que a tecnologia seja aliada e não substituta do julgamento humano. Com a conversa, o 8º Seminário Previdência Complementar em Debate seguiu consolidando o espaço de construção coletiva entre APEP e IPCOM, transformando o diagnóstico dos desafios do setor em caminhos concretos para o fortalecimento da previdência complementar brasileira.

Saiba mais sobre os demais painéis do Seminário

• Prometeu: Abertura – A humanidade nunca aceitou o acaso
• Fortuna: Conversa 1 – O futuro quebrou?
• Perspectiva – Gestão Ativa, disciplina de risco e inteligência quantitativa em mercados voláteis
• Apolo: Conversa 2 – O Judiciário compreende o risco na previdência privada?
• Perspectiva – Mercado de Crédito e Alternativas de Fundos Líquidos
• Atena: Conversa 3 – A prudência sempre gera os efeitos esperados?
• Perspectiva – Fundos Imobiliários: resiliência apesar do cenário desafiador
• Conversa Especial – Selo Patrocinadores do Futuro
• Fides: Conversa 4 – A confiança está em crise?
• Dédalo: Conversa 5 – O erro humano ainda é o maior risco?
• Ananke: Encerramento – O colapso do longo prazo