A inteligência artificial pode chegar ao banco dos réus?

Publicado em: 6 de setembro de 2026

 

Esta coluna não é mesmo para tratar de amenidades. Então, me permito fazer certas perguntas incômodas que desafiam respostas perturbadoras.

Há uma questão que, até pouco tempo atrás, parecia pertencer mais à ficção científica do que ao Direito: uma inteligência artificial pode chegar ao banco dos réus?

A questão ganhou dimensão diferente para mim quando, em março de 2026, acompanhei uma notícia sobre um processo judicial nos Estados Unidos envolvendo um sistema de inteligência artificial. Segundo reportagem publicada pela Reuters em 4 de março de 2026, a ação nº 5:26-cv-01849, Gavalas v. Google LLC et al., levantou discussões sobre os possíveis efeitos de respostas produzidas por essa tecnologia (REUTERS, 2026). É importante fazer uma ressalva: as alegações apresentadas em uma ação judicial não são, por si mesmas, fatos definitivamente comprovados. O que interessa aqui é o problema jurídico revelado pelo caso: quando uma tecnologia participa de uma situação que provoca dano, quem deve responder por isso?

A pergunta parece simples, mas logo nos conduz a outra: o que significa ser responsável? No Direito, responsabilidade não consiste apenas em ter participado de determinado acontecimento. Significa poder ser chamado a responder por uma conduta ou por um resultado diante de regras previamente estabelecidas. Quando uma pessoa provoca um acidente, por exemplo, não analisamos apenas o resultado. Procuramos saber quem conduzia o veículo, quais eram as condições existentes, se houve imprudência, negligência ou intenção e se alguém tinha condições de evitar o ocorrido. Com sistemas inteligentes, essa investigação se torna mais complexa porque diversas decisões humanas podem estar reunidas em uma mesma cadeia tecnológica e causal.

É nesse ponto que a obra de Isaac Asimov se torna especialmente interessante para este tema. Em Eu, Robô, publicado originalmente em 1950, o escritor imaginou máquinas capazes de agir segundo regras destinadas a impedir que seres humanos fossem feridos. As famosas Três Leis da Robótica pareciam oferecer uma solução simples: estabelecer princípios que deveriam orientar o comportamento dos robôs (ASIMOV, 2014). Asimov, porém, percebeu uma dificuldade que continua atual. O problema não está apenas em criar uma regra, mas em determinar como ela será aplicada diante de uma situação concreta.

Imagine um robô diante de duas pessoas em perigo, sem possibilidade de salvar ambas. A regra determina que deve proteger os seres humanos. Mas qual delas deve ser salva primeiro? E se proteger uma significar colocar a outra em risco? Nesse instante, uma norma aparentemente simples transforma-se em um problema moral. A questão deixa de ser apenas obedecer e passa a envolver interpretação.

O antigo método filosófico de Sócrates ajuda a compreender essa dificuldade. Ele não começava afirmando que possuía todas as respostas. Fazia perguntas para descobrir se aquilo que parecia evidente realmente era. Se dizemos que um sistema “pensa”, precisamos saber o que estamos chamando de pensamento. Se afirmamos que ele “decide”, precisamos distinguir entre produzir uma resposta e possuir consciência, intenção ou vontade. Se o consideramos “inteligente”, devemos esclarecer se inteligência significa apenas processar informações ou se envolve compreender o significado daquilo que se faz.

Essas distinções são importantes porque o Direito trabalha com conceitos precisos. Uma pessoa pode agir intencionalmente, assumir determinado risco, ser negligente ou deixar de cumprir um dever que tinha obrigação jurídica de observar. Um programa, por sua vez, pode produzir uma resposta sofisticada sem que isso demonstre consciência, vontade ou compreensão moral das consequências.

Surge, então, uma distinção fundamental: uma tecnologia pode participar de uma conduta sem necessariamente ser o sujeito jurídico responsável por ela. Um avião pode cair por causa de uma falha em seu sistema de controle, mas isso não significa que a aeronave será processada. Será necessário investigar quem projetou o mecanismo, quem o fabricou, quem realizou sua manutenção, quem autorizou seu funcionamento e quais normas deveriam ter sido observadas. Com os sistemas inteligentes, a lógica é semelhante, embora a investigação seja mais difícil.

A complexidade aumenta porque essas ferramentas são desenvolvidas por muitas pessoas e organizações. Existem programadores, empresas, fornecedores de dados, equipes responsáveis pelo treinamento, profissionais de segurança, usuários e instituições que decidem onde e como determinado recurso será empregado. Quando ocorre um dano, pode existir uma extensa cadeia de decisões. O desafio jurídico consiste em reconstruí-la e identificar onde havia um dever de cuidado e quem possuía condições concretas de agir de outra maneira.

Essa questão também pode ser pensada a partir do velho e sempre atual Hans Kelsen. Para o jurista austríaco, o Direito não se limita aos fatos. Ele trabalha com normas que atribuem significado jurídico às condutas. Uma mesma ação pode produzir consequências diferentes conforme a norma aplicável. Isso ajuda a compreender por que não basta afirmar que “o algoritmo errou”. É necessário identificar a conduta humana juridicamente relevante relacionada ao funcionamento daquele sistema (KELSEN, 2009).

Imagine uma empresa que coloque no mercado um recurso sabendo que ele apresenta riscos graves e, ainda assim, deixe de adotar medidas razoáveis para reduzi-los. Nesse cenário, a discussão não precisa transformar a tecnologia em pessoa. Pode ser muito mais importante examinar a atuação daqueles que a desenvolveram, comercializaram ou autorizaram sua utilização.

No campo da responsabilidade civil, essa análise pode envolver diferentes fundamentos, conforme o caso e a legislação aplicável. Podem surgir discussões sobre defeito do produto ou serviço, falha na prestação, dever de informação, negligência, violação de direitos ou relação de causalidade entre determinada conduta e o prejuízo. O ponto central continua sendo identificar quem possuía o dever jurídico de evitar ou reduzir aquele risco.

No Direito Penal, a questão é ainda mais delicada. A responsabilidade criminal exige, em regra, uma pessoa capaz de responder por uma conduta definida pela lei como crime. Não basta que um resultado tenha acontecido. É necessário analisar a conduta, a tipicidade, a ilicitude e a culpabilidade, conforme o caso. Também é preciso verificar a existência de dolo ou culpa, quando a modalidade culposa estiver prevista em lei. Nas situações de omissão, pode ser necessário demonstrar a existência de um dever jurídico específico de agir e a possibilidade concreta de atuação.

Por isso, diante de um resultado grave produzido com participação de uma inteligência artificial, não basta afirmar que “o algoritmo errou”. É preciso reconstruir o processo que levou àquele resultado. Quem desenvolveu o sistema? Quais riscos eram conhecidos? Que testes foram realizados? Quais limites foram estabelecidos? Que advertências foram fornecidas? Quem autorizou determinada utilização? Havia alguém com o dever jurídico de impedir o acontecimento?

Essa investigação também evita dois erros. O primeiro seria atribuir culpa automaticamente à tecnologia apenas porque ela produziu determinada resposta ou executou uma ação. O segundo seria utilizar sua complexidade como escudo para afastar a responsabilidade daqueles que participaram de sua criação, implantação ou utilização. Entre esses extremos existe o trabalho próprio do Direito: individualizar condutas, deveres e responsabilidades.

Existe ainda uma questão mais profunda: se ensinamos um sistema a tomar decisões segundo determinadas regras, quem escolhe essas regras? Quem define quais informações serão utilizadas para treiná-lo? Quem estabelece o que será considerado aceitável? Quem determina os limites que não poderão ser ultrapassados?

Nesse ponto, a tecnologia deixa de ser apenas uma questão de programação e passa a envolver poder. Quem desenvolve uma ferramenta capaz de influenciar decisões humanas também participa da construção das condições em que essas escolhas ocorrerão. Por isso, discutir inteligência artificial significa discutir liberdade, segurança, direitos e limites do poder tecnológico.

Asimov percebeu esse problema muito antes da existência dos sistemas atuais. Em Robôs e Império, ele introduziu a chamada Lei Zero, segundo a qual um robô não deveria causar dano à humanidade como um todo. A ideia parece grandiosa, mas cria uma dificuldade ainda maior. Quem define o interesse da humanidade? Uma máquina poderia decidir que determinada pessoa deveria ser sacrificada porque isso beneficiaria milhões? Se pudesse fazer isso, estaríamos diante de uma ferramenta obediente ou de uma entidade autorizada a interpretar o destino coletivo? (ASIMOV, 2015).

A questão aproxima a ficção da realidade. Os sistemas contemporâneos não seguem literalmente as leis de Asimov, mas já produzem respostas e recomendações capazes de influenciar pessoas em áreas importantes. Quanto maior for o poder atribuído a uma tecnologia, maior deve ser a preocupação com seus limites, sua fiscalização e os deveres daqueles que a colocam em funcionamento.

A União Europeia já avançou nesse caminho com o Artificial Intelligence Act, estabelecendo regras específicas conforme os diferentes níveis de risco (UNIÃO EUROPEIA, 2024). No Brasil, também cresce o debate sobre como regulamentar a inteligência artificial sem impedir o desenvolvimento tecnológico e, ao mesmo tempo, proteger direitos fundamentais. O desafio está em encontrar um equilíbrio: permitir a inovação sem transformar a sociedade em um laboratório no qual os riscos sejam suportados apenas por aqueles que sofrerem suas consequências.

Suponho que a questão mais importante seja esta: precisamos realmente transformar a inteligência artificial em uma pessoa jurídica para responsabilizar alguém pelos danos que ela possa causar?

A resposta tende a ser negativa. Um sistema pode conversar com pessoas, produzir textos, criar imagens, analisar dados e tomar decisões dentro de determinados ambientes. Nada disso, por si só, demonstra que possua personalidade jurídica, consciência moral ou capacidade de responder penalmente por seus atos.

O fato de uma tecnologia parecer humana não significa que ela seja juridicamente pessoa. Essa distinção será cada vez mais importante à medida que os sistemas se tornarem mais convincentes. Uma ferramenta pode escrever como uma pessoa, conversar como uma pessoa e produzir respostas que parecem revelar compreensão. Aparência de consciência, contudo, não equivale necessariamente a consciência, assim como aparência de autonomia não significa capacidade jurídica.

Este desafio começa a ser colocado diante do Direito. Não queremos apenas descobrir se a inteligência artificial pode ocupar o banco dos réus, mas se os seres humanos continuarão capazes de reconhecer a própria responsabilidade quando suas decisões estiverem escondidas atrás de sistemas que parecem agir sozinhos, sem interferência humana.

A inteligência artificial apresenta uma versão contemporânea dessa antiga inquietação de Prometeu. Criamos ferramentas para ampliar nossas capacidades, mas, ao fazer isso, também ampliamos a dimensão dos nossos próprios erros. Quanto maior for o poder tecnológico, maior será a necessidade de compreender quem o criou, para qual finalidade, com quais limites, sob quais condições e assumindo quais deveres.

Quando uma inteligência artificial estiver envolvida em um dano, o primeiro impulso não deveria ser perguntar se devemos colocá-la no banco dos réus. A questão mais importante será outra: quem exatamente estava por trás dela?

Não bastará descobrir o que o sistema fez. Será necessário compreender quem o tornou possível, quem definiu seus objetivos, quem conhecia seus riscos, quem autorizou seu uso e quem tinha o dever de impedir o resultado.

É possível que, no futuro, os tribunais estejam repletos de processos nos quais a inteligência artificial apareça no núcleo da controvérsia. Isso não significa, necessariamente, que ela será tratada como ré. O Direito continuará procurando sujeitos capazes de responder por suas escolhas, seus deveres e suas omissões.

Podemos fazer um aggiornamento para a pergunta que Sócrates faria à nossa época: se fomos nós que criamos a máquina, quem será responsável quando ela errar? A máquina poderá produzir a resposta? A responsabilidade, no fim, continuará procurando a figura humana.

REFERÊNCIAS

ASIMOV, Isaac. Eu, robô. São Paulo: Aleph, 2014.

ASIMOV, Isaac. Robôs e Império. São Paulo: Aleph, 2015.

KELSEN, Hans. Teoria pura do direito. Tradução de João Baptista Machado. 8. ed. São Paulo: WMF Martins Fontes, 2009.

REUTERS. Lawsuit says Google’s Gemini AI chatbotdrove man to suicide. Reuters, 4 mar. 2026. Disponível em: Reuters⁠. Acesso em: 2 set. 2026.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento da Inteligência Artificial). Jornal Oficial da União Europeia, 2024.

* O conteúdo do artigo reflete a opinião pessoal da/o colunista